5090D的AI推理算力是一点都没砍
显卡吧
全部回复
仅看楼主
level 11
职业killer 楼主
装机猿实测,fp16下的SDXL 5090D比4090强 30% ,fp8下的 flux 提升可以到45%,fp4下flux生成速度直接是4090的4.5倍,5090D的AI推理算力是一点都没砍,估计只限制了训练算力,刀法精准。
2025年01月24日 14点01分 1
level 1
推理和训练有区别?
2025年01月24日 14点01分 2
@--酒赋-- 做科研的人还是要训练,玩出图的就要推理,懂了
2025年01月24日 17点01分
训练就是一边看例题一边学习,推理就是学懂了以后举一反三做新题
2025年01月24日 14点01分
应该是算力总量没变,但是推算产出的数量被控制了,当然这其实也等于算力被砍了
2025年01月24日 14点01分
@妇女克星 什么都没控制,软件锁锁。
2025年01月24日 15点01分
level 10
这砍的真精准
2025年01月24日 14点01分 3
level 12
大刀客并非浪得虚名
2025年01月24日 14点01分 4
level 5
不太理解,但国内大厂买4090不就是为了一手推理吗
2025年01月24日 14点01分 6
那是为了训练
2025年01月24日 14点01分
@tb.1.e9ff7520.4ARGgyYR6A5ePeenwVOygQ 推理华为昇腾都够用了
2025年01月29日 03点01分
那是训练,一个是创新,一个是对着模型直接算
2025年01月24日 14点01分
是为了训练。而消费端主要是用来推理。tony大叔拆解5090d的时候就感觉不对劲,Tensor Core是一个都没砍,5090和5090d都是680个。
2025年01月24日 15点01分
level 8
不这么讲谁买同价位D 还得继续观望
2025年01月24日 14点01分 7
level 10
他不是猜测,5090可能被锁了部分AI性能了吗
2025年01月24日 14点01分 8
@职业killer 装机猿暗示的意思是英伟达反向锁了5090的AI性能,使其和5090D一样,便于卖5090D,因为国外不禁售计算卡,AI公司肯定买专业卡而不会买5090,但大陆就不一样了。
2025年01月24日 16点01分
装机员测的,不光是绘图,还有言语推理生成,速度5090d和5090是一样的。应该是限制了训练算力。
2025年01月24日 15点01分
是直接软锁不让跑
2025年01月24日 15点01分
实测出来了,游戏性能一模一样。软件锁
2025年01月24日 15点01分
level 14
直接限制了炼丹
2025年01月24日 14点01分 9
目前还没有实际测试
2025年01月27日 03点01分
炼丹估计跟4090d一样,出图跟5090一样
2025年01月24日 15点01分
@广州老实人💥 如果真的没有区别 那就说明显卡禁令已经名存实亡
2025年01月27日 10点01分
@椰几oO 我以为炼丹被限制了,结果极客湾测了没区别,很魔幻
2025年01月27日 11点01分
level 9
黄氏刀法一刀切。。。 等等晚上极客湾吧 估计见分晓了
2025年01月24日 15点01分 10
极客湾不是出视频了么
2025年01月25日 08点01分
level 12
软件锁,玩游戏就是满血5090。
2025年01月24日 15点01分 11
level 12
这是啥ai?应用端的ai?不太懂啥意思!是把大模型ai砍了?
2025年01月24日 15点01分 12
level 11
职业killer 楼主
笔吧评测室也是,言语大模型下5090D普遍比4090强40%,这是啥意思
2025年01月24日 16点01分 13
推理吧
2025年01月24日 16点01分
level 9
装机猿的意思是,英伟达反向锁了5090的AI性能,使其和5090D一样,便于卖5090D,因为国外不禁售,AI公司没必要买5090来跑AI,导致销量不会很大
2025年01月24日 16点01分 14
按照公布的ai tops数据,理论上5090d和4090d的算力是一样才对。大概1180。4090是1321。。如果推理速度5090d比4090强,那4090的之所以禁运的标准是什么呢。真搞不清楚。
2025年01月24日 16点01分
@职业killer 可能是老黄和川普达成了PY交易,暗中取消了拜登的显卡禁令,反正那帮政客也看不懂AI是啥,只要不公布就没事
2025年01月24日 16点01分
@职业killer 应该是他跑的这东西,负载还没到被锁的阈值,类比一下就是你拿4090和核显玩20年前的游戏来对比帧数,那肯定没区别啊。。
2025年01月24日 16点01分
@Null丶丶 也有这种可能,比如一般测试的推理时间或者个人用户的训练时间并不长,比如秒过分钟来计算,而预训练大模型往往要按照日月来算。可以按照时间来锁。
2025年01月24日 16点01分
level 7
他们测的基本都是推理,推理的瓶颈是显存,而不是算力,即使是跟4090d一样的算力,5090d表现也会更好。那边测试的锁的是ai训练
2025年01月24日 17点01分 15
[啊]这样吗
2025年01月24日 17点01分
大公司买这东西基本都是为了训练的,推理的话,对芯片的算力要求就没那么高了。5090d就是阉割了多卡集群跟ai训练算力
2025年01月24日 17点01分
@职业killer 也有可能是只锁了fp8跟fp4以及多卡,没有锁fp16跟fp32[滑稽]
2025年01月24日 17点01分
@枯风QAQ [笑眼]懂哥别科普了 大公司买4090 5090训练? nvlink都没有的玩意怎么跑多卡 ? 计算时间还没卡间通信时间长
2025年01月25日 16点01分
level 8
还没上锁吧
2025年01月24日 17点01分 16
1 2 3 尾页