求助,用ollama和chatbox本地部署,大量出现重复内容
deepseek吧
全部回复
仅看楼主
level 1
wuselong
楼主
本地部署后,不管用什么模型,官方的非官方的都试过,回答都很短,要求它增加字数就会不断重复已有内容,这个怎么改?
2025年05月15日 13点05分
1
level 6
APS3000
设置参数,num_ctx,num_predict,把num_ctx设置大一点,具体多大不好说,我都是把已有上下文长度计算出来,然后再加上最大需要生成长度,num_predict设置成-1,可以最大把所有剩余上下文用完。
这需要自己用api或能够设置这些参数的app。
2025年05月15日 14点05分
3
1