本地部署,通过api调用,有两个小问题,没搜到答案
deepseek吧
全部回复
仅看楼主
level 5
主机用的是LMstudio,部署的14b模型
1、对于同一个模型、输入相同的内容,从chatbox获得的答案和从主机上直接看到的答案明显不一样
这一点从思维链明显就能看出来:
主机上的思维链上写的是“我是xx模型,我会xxxxx”
API的思维链上写的是:“我就是我,但我现在要参考xx模型的思路”
从每段思维链的开头的这个差异,导致后边的思维走向完全不像同一个模型。
看起来似乎chatbox上另一个模型对我的语言进行了翻译(但是设置里有个“注入元数据”我是开着的)
这正常吗?
2.chatbox上[温度]的调节范围是0-2,LMstudio上的调节范围是0-1
这两个是线性对应关系吗,还是各自有各自的绝对值?
chatbox的2=LMstudio的1?
2025年03月21日 02点03分 1
level 5
捞一手吧
2025年03月21日 07点03分 2
1