ChatGLM处理请求只能一个个排队处理吗？
chatglm吧
全部回复
仅看楼主
level 2
丙军1🙈 楼主
只起一个ChatGLM进程，处理请求只能一个个排队处理吗？
2023年07月14日 08点07分 1
level 2
丙军1🙈 楼主
[乖]
2023年07月14日 08点07分 2
level 2
丙军1🙈 楼主
ChatGLM是单线程的吗
2023年07月14日 08点07分 3
神楽七奈office
看你上面的人回答的，好像是说可以进行多线阵（好像是什么同步IO）但是可能会出现回答阻塞之类的
2023年07月20日 12点07分
level 3
流云闲鹿
一个设备应该可以同时启动多个GLM的。我用的是本地部署秋叶佛祖一键包。不过一个地址似乎只能打开一个。而且我是CPU全展开，会吃到37G内存（我可怜的笔记本只有48G）所以会爆
2023年12月24日 10点12分 4
level 2
丙军1🙈 楼主
起多个模型和流模式可破 并行问题
2023年12月26日 02点12分 5
1