deepseek第六天的开源，老黄这次是真要凉凉……
显卡吧
全部回复
仅看楼主
level 15
👀不穿的可达鸭 楼主
deepseek开源了它的推理成本……DeepSeek V3/R1 所有推理不到2500张H800单机输出 tokens效率比H100 提升了15倍有人算过，已现在的H800的算力，2W张卡就能够全中国人所有人用
本来以为DeepSeek开源周连续五天的开源项目已经结束了，万万没想到DeepSeek还有one more thing ，补了一个王炸开源项目第六弹：深度揭秘DeepSeek V3/R1 推理系统背后的秘密
2025年03月02日 02点03分 1
level 9
汝等还是太年轻
你看你这帖子有jshn回你不？[滑稽]
2025年03月02日 04点03分 2
👀不穿的可达鸭
天下苦nv久矣
2025年03月02日 04点03分
誓言xxx
@👀不穿的可达鸭 你为啥觉得明天没有更劲爆的呢？[滑稽]中国人的习惯，放在最后肯定不是垃圾玩意啊
2025年03月03日 00点03分
level 14
Zou2323
[滑稽]这可是好消息
2025年03月02日 04点03分 3
内哥扒拉
模型部署依赖显存的，16G终身残疾傻子去炒。
2025年03月05日 09点03分
level 8
赤红魔王
我vivo的蓝心小v都用上r1了，这玩意是真的离谱
2025年03月02日 04点03分 4
辉夜小可爱
我为什么还是弱智蓝？
2025年03月02日 08点03分
👀不穿的可达鸭
我靠，同vivo我才发现我的也有了
2025年03月02日 04点03分
落星🌟
我靠，我看了一眼还真是
2025年03月02日 05点03分
popodoლ
反手就升级了一下[太开心]
2025年03月02日 07点03分
level 7
爱吃牛肉伙瓜
[太开心]
2025年03月02日 04点03分 5
level 12
天空大麦茶
别替deepseek吹了，我担心玩ai的散户过来抢游戏卡
2025年03月02日 04点03分 6
👀不穿的可达鸭
差不多得了，16g抢毛 5070ti 5080溢价就是黄狗自己的问题，16g跑deepseek32b只能q3量化的模型
2025年03月02日 05点03分
🤣👉🤡👈😅
现在api这么便宜，还用得着拿垃圾游戏卡跑？
2025年03月02日 12点03分
peng9sky
@👀不穿的可达鸭 不不不，我们现在用CPU加GPU混跑，卡诺基的魔改3080加1T内存已经可以让671b Q8跑到十几个tokens了
2025年03月02日 05点03分
peng9sky
@👀不穿的可达鸭 这玩意吃显存（内存）容量和带宽，堆显存除了土豪没几个人玩得起，所以个人玩家都是堆内存。相比于显存，内存便宜得像不要钱一样。 我楼上说的方案，需要24条48G或者64G的ECC内存，一张魔改3080或者3090就够了，五万块钱，还不够一张H800的零头。
2025年03月02日 05点03分
level 10
叛逆的老老王
没啥用，显卡还是那么贵
2025年03月02日 05点03分 7
👀不穿的可达鸭
贵不买不就得了 我为了证明自己的决心连着cpu都卖了[阴险]
2025年03月02日 05点03分
level 12
Helloworld侯
[捂嘴笑]不利于涨价的话不要说
2025年03月02日 05点03分 8
level 12
k2321856
推理不比训练，单纯推理e5
+3
060可以部署700b的模型
2025年03月02日 05点03分 10
YihanXu
@👀不穿的可达鸭 512g就行，但e5 d4内存带宽不够。上epyc12通道，576gb d5 4800/5200内存就能跑700b
2025年03月02日 05点03分
👀不穿的可达鸭
[阴险]啥模型啊700b推理吓死人，跑内存里得多大内存？
2025年03月02日 05点03分
👀不穿的可达鸭
@YihanXu 富哥[阴险]
2025年03月02日 06点03分
k2321856
@YihanXu 带宽提升对推理提升并不大。。。超过人类阅读速度就够了
2025年03月02日 09点03分
level 11
💫Sariel
一会心急已焚高价收卡已经赔了的jshn举报你帖子
2025年03月02日 05点03分 11
level 13
-
踩到JS尾巴了？这么安静[滑稽]
2025年03月02日 05点03分 12
shampoo_burn
js懂个鸡毛ai，只知道炒显卡[笑眼]
2025年03月02日 06点03分
DrNeal
高看奸商了，知道a和h啥区别就谢天谢地了[笑眼]
2025年03月03日 06点03分
level 10
dwzmnietz
黄狗好不容易涨了3个点，不要散布谣言[滑稽]
万一再跌几十个点，国内半导体cpo机器人还活不活了[怒]
2025年03月02日 05点03分 13
假面骑士w
新卡都这样了还能涨吗[阴险]
2025年03月02日 17点03分
level 1
A_yyw
不利于英伟达的话别说。这边一群精神股东会很急
2025年03月02日 06点03分 14
level 13
blankoh
不懂，但如果能让皮衣黄难受我就开心[吐舌]
2025年03月02日 06点03分 15
level 11
樱满西行
怎么回事，怎么没有jshn来跳脸？[吃瓜]
2025年03月02日 07点03分 17
吾名为流星
它们搞不懂这些东西
2025年03月02日 09点03分
1 2 3 4 尾页