level 9
本地部署的qwen3:30b,从测试档6点到15点只生成了3句对话。设置的间隔是3s。
请问是什么地方出错了啊?是模型用的不对?设置不好?还是说本地部署的就是这个样子?
配置是4070tis和7950x3d
2025年10月23日 07点10分
1
level 10
AI冷却是默认的7吗?然后建议换别的模型,比如ds v3.2
2025年10月23日 08点10分
2
level 7
30b单是文件就接近20个g了吧,多半加载爆显存了,或者输出格式错误直接failed
2025年10月23日 09点10分
3
level 11
rimtalk菜单右上角点开有个调试,能看对话生成情况。看看是不是网络慢或者限流了
然后开发者看报错,我遇到过生成对话返回内容里有多个人的话,导致报错生成失败。
2025年10月23日 09点10分
6