level 6
加仑者
楼主
用了半年原生rocm,趁krea2出来把环境迁docker上
rocm+troch2.12构建非常顺利,光辉很快迁过去了
大坑在 ConvRot INT8与gguf上
gguf qwenvl不兼容krea2,要切到一个额外的分支
ConvRot INT8显存回收有问题,不像zit直接跑,第二轮直接oom炸显存
20g显存+32g内存跑14g的int8真的捉襟见肘,根据ai的说法设置一些参数终于不oom了
第一张图加载比较久,后面960*640+放大1.2倍大概60s左右,不过效果真的完爆zit
晚点试试把qwenvl固定到内存里,试试效果
图就不放了,krea2对体型与年龄的把控真的完爆zit
2026年07月14日 06点07分
1
rocm+troch2.12构建非常顺利,光辉很快迁过去了
大坑在 ConvRot INT8与gguf上
gguf qwenvl不兼容krea2,要切到一个额外的分支
ConvRot INT8显存回收有问题,不像zit直接跑,第二轮直接oom炸显存
20g显存+32g内存跑14g的int8真的捉襟见肘,根据ai的说法设置一些参数终于不oom了
第一张图加载比较久,后面960*640+放大1.2倍大概60s左右,不过效果真的完爆zit
晚点试试把qwenvl固定到内存里,试试效果
图就不放了,krea2对体型与年龄的把控真的完爆zit