windows10下部署chatglm2-6b-int4失败
chatglm吧
全部回复
仅看楼主
level 4
知行合一198 楼主
求解决，问题如下图
2023年08月18日 11点08分 1
level 4
知行合一198 楼主
chatglm2的标准回复
2023年08月18日 12点08分 3
level 5
sdwzh99
到b站有一篇叫做 低显存本地搭建chatglm int4量化版 的文章
照里面教的装一下 mingw，可以自动编译c++
2023年08月23日 00点08分 4
level 4
知行合一198 楼主
安装了mongw,也装了gcc
2023年08月23日 00点08分 5
level 5
sdwzh99
整个过程照着流程来做
CPU版很简单的
装pytorch
然后pip install -r requirements.txt
只要配置够应该是不会出问题的
2023年08月23日 05点08分 6
知行合一198
是按这个流程来的
2023年08月24日 02点08分
神楽七奈office
最近不知道为什么这个txt文件也下不了了
2023年09月08日 15点09分
level 1
bingo1206
看看MinGW是32位还是64位？
2023年08月24日 02点08分 8
知行合一198
等会看一下
2023年08月24日 02点08分
知行合一198
确实是因为g++是32位的，换64位就好了
2023年09月28日 00点09分
level 1
诺娜依紫
借楼，我这个是属于成功一半还是失败了？没有对话窗口
2023年11月28日 03点11分 9
1