课题组拟配置服务器，求配置推荐

circlehorn · 发表于 Post on 2023-3-22 10:31:13

课题组近期拟配置一台服务器，主要用来做matlab运算和用python跑深度学习，成本预算4-5w，看了一些帖子大致列了下主要配置和需求，求大家给一些建议和具体型号推荐，谢谢大家。
CPU ：至强8375C (听说IntelCPU对matlab支持好)
主板：未定
内存：256g (实验需求)
显卡：4090 * 2
硬盘：4T，待定
电源：1000W以上，待定
散热：待定

wxsxjj · 发表于 Post on 2023-3-22 11:36:16

有啥必要推具体型号，sob不是都给了吗？
主板超微，内存镁光/三星16*16，显卡能买到哪个再说，硬盘希捷企业级，电源振华2000w，散热随便，8375C有名的好压
电源1000w太小了

Entropy.S.I · 发表于 Post on 2023-3-22 14:30:14

又冒出来一个单核弱CPU配4090的…

wxsxjj · 发表于 Post on 2023-3-22 15:42:38

Entropy.S.I 发表于 2023-3-22 14:30
又冒出来一个单核弱CPU配4090的…

gpu跑机器学习对cpu单核性能要求也高吗

Entropy.S.I · 发表于 Post on 2023-3-22 16:00:00

wxsxjj 发表于 2023-3-22 15:42
gpu跑机器学习对cpu单核性能要求也高吗

都一样，GPU加速对CPU最主要的是需求就是单核性能，因为数据吞吐只能由CPU处理，那些纯GPU软件只能用1个线程做这件事。

我所认识的做AI相关的（包括训练和推理）人自己配机器都是用单核性能尽可能强的CPU，理由很明确，就是CPU单核性能有影响。

那些4路、8路GPU的品牌GPU服务器整机还在用弱鸡低频CPU是非常蠢的行为，不过在我的提醒下已经有厂家认识到这个问题了。

circlehorn · 发表于 Post on 2023-3-23 19:47:22

Entropy.S.I 发表于 2023-3-22 16:00
都一样，GPU加速对CPU最主要的是需求就是单核性能，因为数据吞吐只能由CPU处理，那些纯GPU软件只能用1个 ...

我不太懂，以为这个CPU已经算比较强的了，恳请前辈指点应该如何更换

Entropy.S.I · 发表于 Post on 2023-3-23 20:32:09

本帖最后由 Entropy.S.I 于 2023-3-23 20:33 编辑

circlehorn 发表于 2023-3-23 19:47
我不太懂，以为这个CPU已经算比较强的了，恳请前辈指点应该如何更换

看你搞深度学习是推理还是训练（搞研究的都是训练为主吧？），前者对CPU整体性能（包括单核和多核）需求不是特别高，后者需求就很高，应该用单核性能尽可能强的CPU。

circlehorn · 发表于 Post on 2023-3-24 11:04:51

Entropy.S.I 发表于 2023-3-23 20:32
看你搞深度学习是推理还是训练（搞研究的都是训练为主吧？），前者对CPU整体性能（包括单核和多核）需求 ...

主要是做训练，我看sob推荐的是7950X，单个7950X好像性能和8375C差不多，但是价格差了一倍的，是不是用两个7950X替换8375C好一点？或者前辈有无推荐型号

		自动登录 Automatic login	找回密码 Forget password
密码 Password			注册 Register

[计算机购买] 课题组拟配置服务器，求配置推荐