AI 服务器配置在线推荐

• 请不要在回答技术问题时复制粘贴 AI 生成的内容

This topic created in 933 days ago, the information mentioned may be changed or developed.

有没有什么在线配置 AI 服务器的网站？

可以组合选择 cpu ，gpu ，功耗的

比如：至强 83522 + tesla8 + 3000W*2 这种的

能够给出性能+算力评估的，有国产选项的更好了

最近在做选型，搞得头大。

配置

推荐

2 replies • 2024-04-17 11:27:13 +08:00

mythabc

Apr 17, 2024

没那么复杂，因为没有几款可以选的

GPU: NVIDIA ampere 、ada lovelace 、hopper 架构的工作站卡、数据中心卡，techpowerup 的 GPU 数据库里面筛选一下就出来了，但是里面的算力不是很准确，要搜 NVIDIA 的官方参数。常见的训练卡 A100/H100 。推理 4090 、A6000 、A40 等。
连接性要考虑上不上 nvlink 、nvSwitch 。前者只能连接两张卡，后者用在 HGX 平台一出手就是八张卡。

CPU 就志强三代、四代。AMD 宵龙。cpubenchmark 上看个单线程、多线程跑分。

FlashEcho

Apr 17, 2024

算力估算你可以去 vast.ai 上看，它们有一个自己的 benchmark