catazshadow's recent timeline updates catazshadow's recent timeline updates |
catazshadowV2EX member #399613, joined on 2019-04-08 17:11:05 +08:00Today's activity rank 1584 |
| 小米 17 把这次西班牙日食 P 成了月食 分享发现 • catazshadow • 10 days ago • Lastly replied by catazshadow | 5 |
| AI 回旋标来了 分享发现 • catazshadow • Jun 12 • Lastly replied by woshishui2022 | 12 |
| 为什么你该停止使用 Ollama
1 Local LLM • catazshadow • Apr 22 • Lastly replied by seakingii
|
14 |
| 疑似被 ban，求解封 水 • catazshadow • May 5 • Lastly replied by catazshadow | 2 |
| 跪求个邀请码 水 • catazshadow • Sep 16, 2025 • Lastly replied by pcy | 2 |
| 再来一个代沟，你们知道保存按钮上为什么是这个图标吗 分享发现 • catazshadow • May 20, 2025 • Lastly replied by sc2yml | 19 |
| 总是有人从 AI 怎么工作反推大脑就是如何如何，人类就是如何如何 分享发现 • catazshadow • May 16, 2025 • Lastly replied by ltux | 175 |
| 小体积低功耗+ECC 内存的 NAS 有没有解 NAS • catazshadow • Mar 31, 2025 • Lastly replied by JRay | 45 |
catazshadow's recent replies
8h 44m ago Replied to a topic by v2NPC › 问与答 › 兄弟们，男生也要对自己好点，那么你们是怎么对自己好的？ |
绝不加班，坚持啃大部头
11h 33m ago Replied to a topic by SSang › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享 |
@SSang 垃圾佬服务器主板上直插的，甚至都不全是 x16 的槽
11h 48m ago Replied to a topic by SSang › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享 |
@SSang 图灵，相当于 2080 这代
nvlink 自己玩玩用不上，PCIe 就足够了，我这个甚至是跨了 NUMA 节点的 PCIe 通信。T10 也没有 nvlink 。
nvlink 黄鱼上 300 块一个桥接器简直就是抢钱
nvlink 自己玩玩用不上，PCIe 就足够了，我这个甚至是跨了 NUMA 节点的 PCIe 通信。T10 也没有 nvlink 。
nvlink 黄鱼上 300 块一个桥接器简直就是抢钱
13h 11m ago Replied to a topic by SSang › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享 |
@SSang 可以找个带 switch 的 PCIe 扩展板上 4 卡，V100 好像玩的人比 T10 多一点
14h 46m ago Replied to a topic by liufangyuan247 › 宽带症候群 › 花了好几天让 ai 帮我把旧安卓手机改造成了软路由！ |
@liufangyuan247 手机自带的设置吗？
15h 34m ago Replied to a topic by SSang › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享 |
@SSang Q5 应该是有些量化方法在反量化的时候，硬件没有原生支持，需要的指令太多。老卡上我都不敢碰非 2 的整数次幂的量化
15h 46m ago Replied to a topic by SSang › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享 |
@SSang 看 log 平均 7 、800 的样子吧，有时能飙到一千多但我觉得应该是算错了，还见过一次一万多的
16h 2m ago Replied to a topic by SSang › 程序员 › 32G 显存 Qwen3.8-27B-GGUF 配置分享 |
4 张 T10 ，AWQ 量化，F16 的 kv ，256K 长度，vllm tp ，mtp 长度 2 ，decode 能有 45 tps ，并发 2 的时候能摸到 80 tps ，爽了很久了
17h 47m ago Replied to a topic by liufangyuan247 › 宽带症候群 › 花了好几天让 ai 帮我把旧安卓手机改造成了软路由！ |
手机玩这些最麻烦的是电池😅，一直插着几个月就鼓包了
18h 1m ago Replied to a topic by Bullish › 生活 › 最近老刷到男性觉醒的视频 |
@microscopec 550C 真的太快了
Select Language