V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  ikw  ›  全部回复第 5 页 / 共 54 页
回复总数  1071
1  2  3  4  5  6  7  8  9  10 ... 54  
❮ ❯
2025 年 1 月 14 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@Echoleung #63 是的
2025 年 1 月 14 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@Rrrrrr #59 我个人的经验是 codestral 22b 一个模型对于 Completion 和 Chat 处理得都挺不错的,显卡能跑起来这个模型的话,体验上应该就很不错了
2025 年 1 月 14 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@a174871 #67 是的,全能力需要 3 个模型,Chat 、Completion 、Embedding ,

Google 有 Chat 和 Embedding

OpenAI 三个都有,只是 Completion 已经 Deprecated 了
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@ZSeptember 哈哈,互联网时代,主要还是看产品
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@Alias2023 个人本地部署基本没有限制,有一些企业功能是限制了需要订阅才可以的,这也是我们的商业模式
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@a132811 是的,允许添加 GitHub/GitLab 等仓库,会自动去拉取,或者本地的 Git 仓库也都是可以的
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@Rrrrrr "我们的 API" 就是指的本地运行的这个 Server API ,公司不让上网指的应该是不让上互联网吧,公司内网部署 Tabby ,然后内部都访问这个 API 就行
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@TimPeake #50 LLM 基本都是这样,不同模型对显卡的利用率也不一样
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@a174871 因为 Gemini 只有 Chat 模型,所以关注度不算高,不过好像也确实可以把 Chat 模型给他加上,毕竟也是个 LLM 大哥
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@TimPeake 得看一下具体的日志和报错,之前碰到过的 docker 绑了 IPv6 ,还碰到过 localhost 解析异常,或者 GPU 异常,之类的问题

或者各位有条件的话,可以加一下我们的 Slack ,我们可以更好的当好客服工作,哈哈

https://links.tabbyml.com/join-slack-landing
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@xdeng @Echoleung @jonsmith 本地有显卡是最好的,可以本地跑模型,尤其对于企业来说,数据还很重要的。

没有显卡的情况下,Tabby 也支持使用远端的模型 API ,针对不同的厂商,我们也都有对应的文档,可以参考一下,例如最近很火的 Deepseek V3 和 Deepseek Coder 都可以通过 Deepseek 的 API 运行: https://tabby.tabbyml.com/docs/references/models-http-api/deepseek/
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@liuliuliuliu @xfn 我们目前没有对比的文章,但是从个人体验上说,Tabby 会获取更多的上下文,包括编辑器里能获取的,还有 Server Side 保存的,在 Chat 或者补全的时候都会有更高的命中率
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@QlanQ 资源大头还是在 LLM 上,Server 本身占用的资源不算多,所以说实话,目前 Mac 上我主要也是开发场景在用,生产场景还是依赖远端的 LLM
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@FcukYouTony 肯定是可以的,但是 NAS 的话,一般得用远端的 API 了,或者 NAS 本身能力比较强大也是可以的,毕竟还是依赖 LLM 的能力
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@yh7gdiaYW #25 Tabby 这个名字现在积累了一定的产品力了,肯定不会轻易考虑换,而且和终端的 Tabby 毕竟也不是一个赛道的
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@yh7gdiaYW 可以用 ML 后缀来区别,Tab by ML ,所以去掉 ML 就是产品名,和终端 Tabby 重名也确实是巧合了
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@cloudzhou #9 抛开语音识别,并且把当前页面限制到 VSCode ,目前的实现其实就是类似的效果,当然,一些更好的体验其实也受限于当前 LLM 的能力,实际做下来体验不如预期,还得等 LLM 再进化
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@zhixiao #7 Copilot 确实是强劲的对手,我们算是互有优势吧,一直在争取有一天能说我们比 Copilot 强

deepseek 的话,主要说的是模型吧?我们本身也是可以用 deepseek 的模型的
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@zhixiao 必须要配合 Server 使用的,Server 在 LLM API 之外会做很多事情,就像读取文档,代码库,然后根据这些信息,再给你补全和生成代码。

配合 Server 也不复杂,目前 release 里就是两个二进制文件,放到 PATH 下的目录里就好,很容易就能跑起来
2025 年 1 月 13 日
回复了 ikw 创建的主题 › 分享创造 › 一觉醒来, HackerNews 上前三了
@guotie @litchinn 哈哈,没有没有,我也只是其中一员,虽然目前我们人也不多就是了。
1  2  3  4  5  6  7  8  9  10 ... 54  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   4564 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 17ms · UTC 08:06 · PVG 16:06 · LAX 00:06 · JFK 03:06
♥ Do have faith in what you're doing.