V2EX = way to explore
V2EX 是一个关于分享和探索的地方
Sign Up Now
For Existing Member  Sign In
V2EX  ›  yelog  ›  全部回复第 1 页 / 共 17 页
回复总数  321
1  2  3  4  5  6  7  8  9  10 ... 17  
❮ ❯
@yiranw09 #6 记忆召回怎么用 jev 实现的?求教?我现在的长期记忆还是放在向量库中,每次新建 session 都要做一次语义召回 https://i.imgur.com/NIvxivj.png
昨天测试了把架构中的 agent 决策( mcp 、tools 、agent 编排)都换成 jev 之后,并没有体感的区别,因为 ReACT loop + Agent 编排中大模型决策本来就不是最耗时的,耗时的都是需要输出长文本流程,比如 SQL 生成,根据多方调用结果生成回答等。所以就将代码回退了,今天也还在研究有什么更好的使用场景😂。

传统大模型输出主要分为两个阶段:prefill 和 decode ,由于 prefill 阶段可以并发处理一般都会比较快,所以使用传统大模型做决策(回答内容少)也是回答挺快的。
我的也还是 8k
eWVsb2dlZWtAZ21haWwuY29t 谢谢老板
羡慕可以自己花钱买 token 上班(逃

公司只给我们买了$20 的 copilot ,每月前两天就用完了,公司合规不允许使用外部 LLM 参与集团或客户的项目,防止隐私泄露,被迫古法编程。。

我自己是每个月花费 1k~2k 买 token 写自己的项目或者做一些研究。所以每天的工作状态就是按照 coding agent 写自己的项目或研究的间隙进行古法编程公司的项目(笑死
12 天前
回复了 SoulFlame 创建的主题 › 问与答 › L3 自动驾驶刑事责任如何划分的?
L3 还是司机负责,到 L4 主要就是车企负责了。所以有很多公司觉得 L3 是个伪命题,直接跳过 L3 去做 L4 如:小马智行、Waymo 等
12 天前
回复了 lame_chen 创建的主题 › 职场话题 › 卷王都是什么心态呢
现在卷这个词什么时候变了,我记得几年前,卷这个词用来形容无意义操作,最典型例子就电影院有人站起来看,导致所有人都得站起来看。而现在怎么都开始来形容奋斗和热爱了,奋斗是有意义的操作,利好个人、团队、国家甚至人类,怎么也被冠上“卷”了呢。如果这样,那各行各业的开创者、大拿不都是他们眼里的“卷王”了吗? 这对吗?
13 天前
回复了 yitwotre 创建的主题 › 汽车 › 求推荐现在智驾最好的 SUV
问界 M9
@HenryRock 最新版 v0.1.2 应该已经修复这个问题了,可以再安装尝试一下
@licoycn 太真实了,经常跑着跑着所有 session 都停了,一看磁盘满了,搞得我还以为 token 耗光了。然后我专门起一个 session 用来检查和清理磁盘
@andyskaura 谢谢!
模块分组还是需要的,当项目大的时候,coding agent 找代码的速度也会比较快,也比较省 token
@HenryRock 收到,交给 coding agent 去研究了
题外话,使用 Rust 开发真的对电脑( m2max 96Gi )压榨的非常厉害,cpu 经常满载,磁盘占用每天涨 200Gi ,这个电脑跟着我两年多还没受过这个苦 https://i.imgur.com/NIvxivj.png
@Echo521 不止没有停,现在同时有 6 个 session 在不同的 worktree 中高强度迭代 https://i.imgur.com/agAJ0Rd.png
@kid1412621 😂 vibe 容易上头
好马不吃回头草,自己离职的都别回去,更何况是被裁员,说明这个领导不是你的伯乐,只是有坑需要你填罢了。回去最好的情况就是维持现状(之前的状态),可能还要被拿捏(你领导会感觉你找不到好工作,再扔点其他坑给你填你也不会走)
1  2  3  4  5  6  7  8  9  10 ... 17  
❮ ❯
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   5036 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 28ms · UTC 07:59 · PVG 15:59 · LAX 00:59 · JFK 03:59
♥ Do have faith in what you're doing.