7900XTX 在comfyui用ollama部署大模型，效率逆天
amd吧
全部回复
仅看楼主
level 4
暗物质回声 楼主
8B的反推 只要6秒
30B的反推 只要27秒
简直逆天般的速度
比N卡的5080都快得多。 让我有些意外
2026年02月08日 01点02分 1
level 11
○批终结者
是用的驱动AI捆绑包里的吗[疑问]
2026年02月08日 02点02分 2
暗物质回声
不要下官方的，自己另外找comfyui便携包自己解药到本机固态盘里面就行了
2026年02月09日 01点02分
暗物质回声
官方的默认在C盘，自己单独下载好点
2026年02月09日 01点02分
○批终结者
@暗物质回声 好的👌🏻我之前下官方的全给我装C盘了[泪]
2026年02月09日 03点02分
level 1
killeryan
那是因为驱动优化
2026年02月08日 02点02分 3
level 8
安纳金🌌
反推算力要求很低的，写个几万字的小说试试
2026年02月08日 04点02分 4
安纳金🌌
@暗物质回声 结果都是胡言乱语，30B参数量还是小了
2026年02月08日 07点02分
暗物质回声
一样，飞速的
2026年02月08日 07点02分
暗物质回声
@安纳金🌌 这玩意毕竟才30B，部署本地反推下，或者改下提示词够用了。写小说的话还是算了，需要自己精心打磨
2026年02月09日 01点02分
暗物质回声
@安纳金🌌 1000字的小黄文 只花了0.35秒 逆天一样的速度
2026年02月09日 03点02分
level 1
科技-武器
多8g显存啊，而且5080被削弱太狠了，比如显存带宽不如5090一半
2026年02月08日 06点02分 5
level 8
神就是我的手下
这个缓存什么命中中问题记得以前吹过就是小模型相当于4090
2026年02月08日 06点02分 6
level 1
Megumin🐱
为什么我驱动包里的ai工具全部安装失败 开了科学 装驱动的时候也有在下载半天[小乖]
2026年02月08日 13点02分 7
恒山一笑🌿
开梯子，先把驱动下完，可以一个个下载，也不需要全部下载
2026年02月08日 17点02分
level 4
暗物质回声 楼主
字数少的话 更快
30b 只要15秒
2026年02月09日 03点02分 8
level 4
暗物质回声 楼主
效率真逆天
跑30B的
1000字的小黄文
只要0.35秒
2026年02月09日 03点02分 9
level 1
seiaqvq
绘画现在优化到多少token速度了[疑问]
2026年02月09日 07点02分 10
1