64g 的 mac 真的有能跑能用的 ai 本地大模型么,Qwen3.8-27B-8bit 都费劲
This topic created in 65 days ago, the information mentioned may be changed or developed.
 |
Wxh16144Sep 1
1
我的 m4 pro mac mini 同内存，反正是跑不了.. 折腾一圈还是 ds 香
|
 |
rockdddSep 1
2
看用来做什么，编码不行.但是可以跑解禁大模型，例如猎奇了一下如何制作 C4...
|
 |
foryou2023Sep 1
3
不能干活，聊天可以。
|
 |
4
🙅♂️不利于涨价卖设备的帖子不要发🐶
|
1 |
NG6Sep 1
5
我也挺好奇的，真的有人专门买几十 GB 的 Mac 跑本地大模型么，这个级别的内存能跑动的 AI 智力都挺底下的吧，远不如便宜的厂商直供 API
|
 |
BretTaylorSep 1
7
主要本地搭建一些无审查的模型。
|
 |
idcidcSep 1
8
只是你刚好有 而且要求不高 可以玩玩 特地去买没必要 还不如用 api 一台机器的钱能用好几年的 api 呢
|
 |
CruzzSep 1
9
可以猎奇。问点在线模型不能问的。前两天在 x 上看不有个姑娘做个赛博调教工具么。
|
 |
SezxySep 1
10
也就跑跑 8B 的小模型用来梵音
|
|
SezxySep 1
11
梵音 =》 翻译
|
 |
moonoopsSep 1
12
64g 挺尴尬的 能用的模型跑不起来，小模型又没必要
|
 |
qweruiopSep 1
13
只能聊天，不能干活，那个 context length 太小了，感觉吹能干活的都是收了广子的。。。
|
 |
HilongSep 1
14
干不了活。但是一些分类的事情还是能跑。我本地跑了个 2B 的小模型，用来给我的账单做分类打标。速度很快
|
 |
dushixiangSep 1
15
跑不动，我的建议是等
|
 |
kuhungSep 1
16
性价比一般，只能跑垂直模型。不如直接用官方 API ，本地模型一般只适合大企业出于安全和微调考虑，或者极客玩玩罢了。
|
 |
AllenZ0Sep 16
17
mac 不适合 本地 AI
|
 |
yexiaoqiSep 24
18
那些吹的能跑的本地模型是怎么做的？
|
Select Language