大佬们！大活儿！推荐一下满血本地运行671b的配置单！组一台！
deepseek吧
全部回复
仅看楼主
level 5
无之文
楼主
根据测评，只需要32通道的cpu，768g内存的服务器即可实验每秒3-4token的速度！！！老外的配置是：6000美金！走的是epyc9b14的处理器的平台。有没有能实现最低价，全新配件的配置单？运行速度只要是3-4每秒就行了！
给大佬们跪了！个人平台使用cpu能够部署deepseek的梦想就在今日了！
2025年02月06日 17点02分
1
level 5
假笑过河
最简单的方法是买台m2u，192g，运行671b 1.58bit
2025年02月06日 18点02分
2
无之文
这个量化太低了大佬，效果太差了
2025年02月06日 18点02分
level 1
垃圾佬👻捡垃圾
这种加一张24G显存的显卡能到多少？
2025年02月06日 19点02分
3
无之文
没多少，主要还是靠cpu
2025年02月07日 01点02分
level 1
天遥如月
这个主要优势是24通道的ddr5，但还是太贵了，光内存就2w多了，还别说双路主板，不过挺适合科研小团队用。
2025年02月15日 02点02分
4
1
