MacBook本地运行int4的问题求教

level 2

烟花岁月1990 楼主

我在本地运行ChatGLM2-6b，服务可以正常启动，但是只有submit问题，服务立刻就停止，请教这是为什么？

2023年09月17日 03点09分 1

level 2

烟花岁月1990 楼主

电脑配置显卡不够，所以选择了CPU推理，以下是电脑配置

2023年09月17日 03点09分 2

level 2

烟花岁月1990 楼主

报错信息也不完整，只能看到最后的错误信息：
Segmentation fault: 11
查询了原因，说是可能内存不足或者包冲突，但是我的电脑内存是足够的，不过查看Python进程的内存占用始终不会超过5G，不知道这是为什么，有没有人遇到过类似的问题？

2023年09月17日 03点09分 3

level 2

烟花岁月1990 楼主

Python偶尔会爆出崩溃的日志

2023年09月17日 03点09分 4