seakingii

seakingii

个人开发者
V2EX member #143924, joined on 2015-10-22 22:34:16 +08:00
Today's activity rank 18407
6 G 34 S 72 B
seakingii's recent replies
@sjdhome 需求应该可以达到.但效率要你设备的老命.毕竟还是 推理,至少要 70MS
不过这个新的架构的难度应该不高,至少比 DS 搞出 COT 的那个简单多. 开源代替应该很快可用
用小模型来模拟 JEV,可以接近效果,但目前有 效率和准确度的 难题
@SilenceLL 不可能.就算是当前的小参数模型也不会在这个领域比它快. 目前的 LLM 用来决策,它是有这个功能,但是太重了.慢很多
@awfe 不一样

LLM 是 串行的自回归的文本生成器,至少目前主流是这样的
JEV 这个是并行的基于策略强化学习的 决策器
现在有一个人,根据这个原理,特化 qwen 2 这个模型,达到 JEV 的效果. 你可以找一下.

按我的了解是,一个革命性的思路,但没有什么技术门槛
小模型再快也没它这个快,目前这是 100 ms 级别的
@sillydaddy 核心是决策.可以衍生出各种子用途

比如 LLM 用来辅助检查输入是否安全 rm -r -f
比如 自动驾驶用来检查向左还是向右
比如 让 AI 自动玩游戏,决定是 出什么牌
比如 炒股票...


作者有一个页面用来介绍用途 https://docs.typesafe.ai/concepts/use-case-map
14 days ago
Replied to a topic by siriusliangcn 程序员 又是一个新的时代
删除干嘛,等你老了的时候,这是你回忆的锚点
21 days ago
Replied to a topic by atreus1891832889 程序员 国模 kimi 和 glm 等哪个更划算
我现在用的 智谱的 V2 的 MAX 套餐, 只用 GLM-5.3-FLASH ,对我来说基本够用,不管是 TOKEN 数量还是 智能质量

KIMI 听说很贵,没用过.
About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3124 Online   Highest 6679   ·     Select Language
创意工作者们的社区
World is powered by solitude
VERSION: 3.9.8.5 · 24ms · UTC 11:01 · PVG 19:01 · LAX 04:01 · JFK 07:01
♥ Do have faith in what you're doing.