对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。
如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺
对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。
如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺
|
1
昇腾哪里性价比高了 贵又不好用,
|
|
SeduceQAQMay 20 via iPhone
2
京东淘宝🧐没记错的话这玩意应该直接找华为吧
|
|
suckinbottleMay 20
4
up 忽略了时间成本!
|
|
senoooMay 20
5
法国记者问黄仁勋: 你会卖芯片给华为吗?!
想到了这个片段.... |
|
legendBroMay 20
6
你来做运维
|
|
yjhatfdu2May 20
7
不如 RTX PRO 6000
|
|
lyxxxh2May 21
8
昇腾性价比高??? 我又去了解了下。
https://e.huawei.com/cn/products/computing/ascend/atlas-300-ai Atlas 300I Pro 推理卡 24gb 算力:140 TOPS INT8, 功耗:72W 传输:204.8 GB/s 淘宝:6k https://www.nvidia.com/en-gb/data-center/tesla-t4/ tesla-t4 算力:130 INT8 TOPS 功耗:70w 传输:320+ GB/s 淘宝:4.6k 奇怪了,怎么感觉相差不多。 去年我记得昇腾贵的一批。 |