fp8 unet被cast到fp16
comfyui吧
全部回复
仅看楼主
level 1
F😋D 楼主
windows_portable, torch2.12.0+cu130,启动参数中加入--fp8_e4m3fn-unet,但实际运行时日志中会弹出一条
"[INFO] model weight dtype torch.float8_e4m3fn, manual cast: torch.float16"
而且实际运行时间也是fp16的速度
显卡是4060,所以不应该存在不支持的问题
2026年06月08日 23点06分 1
level 1
F😋D 楼主

2026年06月10日 04点06分 2
level 10
古怪[疑问]
2026年06月10日 07点06分 3
level 1
没必要别加启动参数,一般模型载入都是可选格式的
2026年06月13日 01点06分 4
1