level 9
注意是极低成本。
首先花100买一张z87,再花80买一颗1225v3,四核四线程足矣。内存4+4就行,板u内存一共花费200。
然后花300购买三张p104,提供gpu与显存,注意不要买太厚的或者双8供电的。
最后花30买一张120g固态,花80买一块600w电源,花10块买个垃圾散热器,机箱用天地机箱,共花费620块钱。
实测qwq32b q4最开始在9t/s,持续对话降低到7.2t/s左右,三卡温度保持在50℃附近,且不会同时满载,软显功耗三卡加起来差不多峰值也只有200w出头,600w电源足矣。
仅记录分享,不作为推荐。
2025年03月25日 03点03分
1
level 9
为什么选择z87,第一价格低廉,第二绝大部分z87有三条全长pcie插槽,而且第二第三插槽都是x4或者x8的速率,所以可以完美支持三张p104,无需速桥线或拆分卡等额外设备。
2025年03月25日 03点03分
3
level 9
因为兼顾画图所以电源选择600w,单纯跑语言模型都不需要600w电源。 以下为推测:画图的话需要调用三个web页面,指派三张显卡进行并行计算,可以同时生成三张/批图,这时对电源和散热的要求比较高。如果专注于部署语言模型,可以将电源和cpu进行降级,将预算压缩到600以内。
2025年03月25日 09点03分
5
level 9
注意,我的三张p104显卡为什么能在负载情况下保持50℃左右,是因为到手后更换了全新风扇和硅脂及显存导热垫,并在机箱加装两把12025风扇,满速运行辅助散热,目的是尽可能控制温度,延长矿卡寿命。如果吧友有意愿尝试的话,一定要注意维护矿卡状态。
不过就算炸了也就100一张。
2025年03月25日 09点03分
6