letmatte
V2EX  ›  问与答

昇腾是目前性价比最高的推理 GPU 吗?

  •  
  •   letmatte · May 20 · 2748 views
    This topic created in 167 days ago, the information mentioned may be changed or developed.

    对于企业内部私有化部署小模型,如 32B 、72B 等,对比英伟达或其他一众国内厂商,华为昇腾是目前性价比最高的选择吗?仅用于主流模型(如 deepseek 、qwen 、未来不知道 mimo 会不会发开源小模型)的推理,不做训练。

    如果是,是否有经销商推荐?目前在京东淘宝等渠道没找到官方店铺

    8 replies  •  2026-05-21 12:52:38 +08:00
    suke119
    suke119
    May 20❤️2
    1
    昇腾哪里性价比高了 贵又不好用,
    SeduceQAQ
    SeduceQAQ
    May 20 via iPhone
    2
    京东淘宝🧐没记错的话这玩意应该直接找华为吧
    letmatte
    letmatte
    OP
    May 20
    3
    @suke119 有好用的推荐吗
    suckinbottle
    4
    up 忽略了时间成本!
    senooo
    senooo
    May 20
    5
    法国记者问黄仁勋: 你会卖芯片给华为吗?!
    想到了这个片段....
    legendBro
    legendBro
    May 20
    6
    你来做运维
    yjhatfdu2
    yjhatfdu2
    May 20
    7
    不如 RTX PRO 6000
    lyxxxh2
    lyxxxh2
    May 21
    8
    昇腾性价比高??? 我又去了解了下。

    https://e.huawei.com/cn/products/computing/ascend/atlas-300-ai
    Atlas 300I Pro 推理卡
    24gb
    算力:140 TOPS INT8,
    功耗:72W
    传输:204.8 GB/s
    淘宝:6k

    https://www.nvidia.com/en-gb/data-center/tesla-t4/
    tesla-t4
    算力:130 INT8 TOPS
    功耗:70w
    传输:320+ GB/s
    淘宝:4.6k

    奇怪了,怎么感觉相差不多。
    去年我记得昇腾贵的一批。
    About   ·   Help   ·   Advertise   ·   Blog   ·   API   ·   FAQ   ·   Privacy   ·   Solana   ·   3212 Online   Highest 6679   ·     Select Language
    创意工作者们的社区
    World is powered by solitude
    VERSION: 3.9.8.5 · 35ms · UTC 11:11 · PVG 19:11 · LAX 03:11 · JFK 06:11
    ♥ Do have faith in what you're doing.