老哥们!大活儿!deepseek本地671B部署最便宜的配置!
图拉丁吧
全部回复
仅看楼主
level 4
无之文
楼主
根据测评,只需要32通道的cpu,768g内存的服务器即可实验每秒3-4token的速度!!!
老外的配置是:6000美金!走的是epyc9b14的处理器的平台。
有没有能实现最低价,全新配件的配置单?
给大佬们跪了!
个人平台使用cpu能够部署deepseek的梦想就在今日了!
2025年02月06日 17点02分
1
level 4
无之文
楼主
这是国外大佬的配置单!
2025年02月06日 17点02分
2
level 4
无之文
楼主
2025年02月07日 01点02分
3
level 5
贴吧用户_7NCVVAa
今天研究了一天了,想弄个便宜的版本,双路7551,也有16条通道了。d4虽然只能2666但是,大佬的这个配置,d5也只能跑4500。理论上,我只要做200g左右的内存,就可以跑1.58动态量化的671b参数模型。
2025年02月07日 16点02分
4
起风了♤
试验一下?
2025年02月09日 15点02分
起风了♤
@起风了♤
反正7天包退
2025年02月09日 15点02分
level 11
peng9sky
单路9115足够了,ds主要吃显存(内存)容量和带宽,其次才是GPU(CPU性能),单路9115带16条64G的DDR5ECC,总成本五万出头吧。相比上百万的8卡H100方案简直就和不要钱一样。
2025年02月09日 18点02分
5
level 10
ky134
国产版下限:
X79双路2680V2
DDR3 1066 768G满插
速度:
0.8 t/s
也不是不能用
2025年02月09日 21点02分
7
ky134
@贴吧用户_aRVEPS8
4b那个400G的,稳,能解高数题
2025年02月12日 15点02分
贴吧用户_aRVEPS8
老哥,你这套部署的那个版本?稳定吗?
2025年02月10日 12点02分
贴吧用户_aRVEPS8
@ky134
成本多少方便说一下吗? 能分享一下主板哪儿整得吗?能插768g有点屌哦
2025年02月14日 08点02分
ky134
@贴吧用户_aRVEPS8
你看都X79了还能贵到哪去。。。随便一片能插24条内存的主板就行了
2025年05月04日 13点05分
level 10
ky134
上古X79+DDR3 1066,单机正版DS的下限了吧
X79又能刨出来拉去干活啦
2025年02月15日 12点02分
8
level 10
ky134
一个汉字具有左右结构,左边是木,右边是乞。这个字是什么?
都来考考你们手头的好AI,看看有几个能答上来的
答案:杚。y1s1,比我厉害了
2025年02月15日 12点02分
9
1