AI 服务器配置在线推荐

V2EX = way to explore

V2EX 是一个关于分享和探索的地方

已注册用户请登录

（腾讯云最新优惠活动来了：云产品限时1折，云服务器低至88元/年，点击这里立即抢购：9i0i.cn/qcloud，更有2860元代金券免费领取，付款直接抵现金用，点击这里立即领取：9i0i.cn/qcloudquan）

（福利推荐：你还在原价购买阿里云服务器？现在阿里云0.8折限时抢购活动来啦！4核8G企业云服务器仅2998元/3年，立即抢购>>>：9i0i.cn/aliyun）

有没有什么在线配置 AI 服务器的网站？

可以组合选择 cpu ，gpu ，功耗的

比如：至强 83522 + tesla8 + 3000W*2 这种的

能够给出性能+算力评估的，有国产选项的更好了

最近在做选型，搞得头大。

2 条回复 ? 2024-04-17 11:27:13 +08:00

mythabc

18 天前

没那么复杂，因为没有几款可以选的

GPU: NVIDIA ampere 、ada lovelace 、hopper 架构的工作站卡、数据中心卡，techpowerup 的 GPU 数据库里面筛选一下就出来了，但是里面的算力不是很准确，要搜 NVIDIA 的官方参数。常见的训练卡 A100/H100 。推理 4090 、A6000 、A40 等。
连接性要考虑上不上 nvlink 、nvSwitch 。前者只能连接两张卡，后者用在 HGX 平台一出手就是八张卡。

CPU 就志强三代、四代。AMD 宵龙。cpubenchmark 上看个单线程、多线程跑分。

chesha1

18 天前

算力估算你可以去 vast.ai 上看，它们有一个自己的 benchmark