小模型(<10B 的模型)都学着 qwen 去卷 agentic 了。但是编程的人，总会用更大的模型来达到高效率。
反而小模型应该深耕的语言方向，移动端对话方向，都荒废了。
测了近 10 个最新的小模型，只有 Gemma4 E4B 能做好我需求的特定模版下的翻译加分析句子任务。
一个个 benchmark 分数越来越高，却都忽略了最原本的语言能力。
This topic created in 47 days ago, the information mentioned may be changed or developed.
 |
Yuk1NoooSep 25
1
我觉得 op 在一定程度上有点倒果为因了，因为小模型也都是用更大的模型当教师模型训/蒸馏出来的。不过当前确实存在如 op 所说的问题。
|
 |
yexiaoqiSep 25
2
大模型还没内卷到一定的高度，小模型方向就不会定型吧
|
 |
cccnSep 26
4
顺便问下。哪个小模型的英文教学能力比较强
|
 |
5
@cccn 我测下来，语言方面 10B 以下的，应该 E4B 是第一了。有条件的话，你可以试试 K2-Horizon-7B ，这个应该更强，但是官方版 llama.cpp 还没支持，所以我还没测过。
|
1 |
mjarSep 27 via iPhone
6
我猜也许真正在用的小模型没必要公开，而真正关注开源小模型的人大多数是程序员？看 hackernews ，每次小模型发布，热评必定有“我拿它跑了 agent 来生成本地代码，不比前沿模型差，amazing”
|
Select Language