4090到了，就是感觉这个推理速度有点疑问。 - novelai吧

level 11

跑100张512*512的图，每张推理20步，总计2000步。
总耗时2分25秒，也就是85秒，换算下来每秒23步。
但是我看秋叶发的天梯图里4090跑512分辨率的时候可以跑到每秒40步，这个是需要在什么配置下才能达到的吗？
我已经更新了cudnn [阴险]

2023年04月09日 17点04分 1

level 7

wildgun

关键词是否比较长；硬盘读写啦、cpu 内存硬件啦是否成为瓶颈（看性能管理器）；最好就用SD 1.5测试；机箱散热是否足够，也就是是否存在一开始块逐渐变慢的情况；供电是否够……

2023年04月09日 17点04分 2

level 10

水协图小编_鱼

更新cudaa，batch size 2或者4，然后换算一下，速度应该有40it的，我bs1的时候是30it左右，2或者4的话有40几

2023年04月09日 17点04分 3

真·晕晕无双

懂了

2023年04月09日 17点04分

Vvvvvv1878

cudda怎么更新? 直接 pip install cudda?

2023年04月09日 18点04分

水协图小编_鱼

@Vvvvvv1878 去看秋叶佛祖的教程，下载一个压缩包把其中一个文件夹的文件解压到指定目录下并且覆盖原文件

2023年04月09日 18点04分

Vvvvvv1878

@水协图小编_鱼哦，那个啊，好像我已经弄过了，没啥用，还有xf升到0.017?好像也没啥用。那个toch?升到2.0好像也没变快，算了没钱换显卡，摆烂了 [酸爽]

2023年04月09日 18点04分

level 1

红莲黑毒

有个跑分插件，可以装个跑分和别人对比下

2023年04月09日 21点04分 4

level 8

针小♂棒大

4090只有10it路过，反正比旧卡快，跑分数值也懒得纠结了……

2023年04月09日 21点04分 5

level 6

只选一个做不到

他那个表里最快40是在Linux跑的吧

2023年04月10日 00点04分 6

真·晕晕无双

懂了，那我就不继续折腾了。

2023年04月10日 01点04分

level 1

贴吧用户_0M451b1

你说得对，但2分25秒是145秒

2023年04月10日 00点04分 7

真·晕晕无双

写错了，是1分25秒

2023年04月10日 01点04分

贴吧用户_0M451b1

@真·晕晕无双 🤣👉

2023年04月10日 01点04分

level 7

无铭『离初』

单线程效率比较低的，适当多线程有助于提升效率 [滑稽]

2023年04月10日 01点04分 8

level 5

尚鸾

一开始我也很好奇，后来我发现是单跑一张512X512，cuda吃不满的，我4090最多就到26it/s.
然后我同时跑两张512，两个就都有20it/s，加起来就接近目前顶级水准的40了。
然后我就再去单跑了768x1152那个，cuda吃满，速度到9it/s。也是符合顶级水平了。
其实就是如果你显卡都好到这种程度了，肯定不会去跑512x512的，我一般是跑768X1024的，cuda就能吃满。

2023年04月10日 02点04分 9

真·晕晕无双

我跑768x1152这个分辨率也差不多是9到10步每秒，那看来是正常的。

2023年04月10日 02点04分