chatglm吧

6

2023-10-05

大家好,新人请教个问题,大家用什么显卡聊天回复速度如何？

我是4070 回复的好慢啊... 另外请教回复速度这个问题和核心（显卡）有关？还是显存大小或显存带宽有关？

🧑75018284

0

02-11

求助，一直报错No module named ‘huggingface_hub.inference..

No module named ‘huggingface_hub.inference..一直在报错这个，用了指令升级到需求版本也还是会报错

🧑EKkO1886

1

01-30

加载一直是0%，然后自己退出来，怎么解决啊

🧑贴吧用户_083VUA3

3

01-06

我这是触发GLM4的关键词了么？

写一篇小说，发到这一章的时候直接终止话题，我试了几次到这里都会终止，我单独发了这一章后，同样也是整终止，这也太坑了吧。顺便说一下，我第一次写的时候这一章……

🧑章鱼不是鱼🔥

0

2024-10-18

output_ids报错

请教一下吗训练能跑起来checkpoint-1000这类名字的文件也会出来，但是进度条跑到100%后卡上短时间会报错TypeError: ChatGLMF……

🧑贴吧用户_G53CyEa

6

2024-07-18

我真的服了

为什么chatglm-6B只能识别到我的gt 720不能识别到p40。求解决办法。（我试过禁用720但是那个链接还是打不开）

🧑hacker1407

0

2024-06-19

'NoneType' object is not callable

运行起来之后然后输出提交显示error控制台提示

🧑wuqiuli0111

2

2024-05-31

难绷，好弱智啊。。。

🧑章鱼不是鱼🔥

5

2024-05-31

4060跑glm

为什么我的4060 8g显存。16g内存。显卡占有率满了跑glm3量化4还是很慢啊。十秒一个字的样子

🧑小碗碗🍒

2

2024-05-28

求助，怎么让glm有角色设定

用onebot让glm接上qq，但无论怎么样它都说自己是机器人，有没有大佬能给点思路怎么让glm有人格或者角色设定，并且能记住给的设定？

🧑-古米廖夫-

2

2024-05-17

有人知道ChatGLM本地部署的怎么破限嘛？

如题。

🧑HankA💲🐍🎩

0

2024-05-17

chatGLM可否用于输出图的节点特征？

想用LLM用于图节点的特征融合加强，将已有的模型得到的特征与LLM得到的特征融合加强后再进行任务的分类判断小白请问各位大佬应该如何实现orz

🧑__幼稚园殺手__

1

2024-05-09

如何做到跟GLM4一样强大，这是来自GLM4的回复

击穿梦想，想要在个人电脑实现最最强大脑，最佳的办法就是用别人的云服务器，哪怕仅是文本处理的模型，也都需要16-32GB显存，最多可达几百G的内存

🧑动感超人盗版

1

2024-05-06

GLM3求助

用的是B站的一键包，选择了02启动项之后这个网址不可用怎么解决？想尝试用CPU跑一下。

🧑流云闲鹿

0

2024-05-04

七月LLM与langchain/知识图谱

七月LLM与langchain/知识图谱，楼主＼/（）[图片]

🧑ahaozhu

3

2024-05-03

就是一个闲聊贴

我也在电脑上本地部署了很多AI了，虽然都是WINDOWS系统，我git HUB上面下载的，啊，但是本少爷我下一个目标就是chat glm，顺便搞个吧主的位……

🧑凄惨红九断🌈

0

2024-04-28

修改模型 logo

怎么chatglm 修改logo 呀

🧑酷爱

0

2024-04-16

chatglm微调ptuingv2

各位大佬们，请问使用ptuingv2微调chatglm时epoch怎么计算的

🧑旅行yyyy88

0

2024-04-14

chatglm求助

求助大佬，如果想用chatglm实现文生图或者语音转文字功能是要调用其他模型的API吗，chatglm3的工具调用功能也是通过调用API来实现功能嘛

🧑夭夭不是尧

4

2023-11-28

大佬大佬这个已经调出api了，但是没有对话窗口，下一步怎么办

🧑诺娜依紫

0

2024-03-28

只支持fp32的显卡可以跑嘛

rt比如m40显卡，只支持fp32，好像还有fp64，然后12g显存，可以跑嘛，好像INT8 INT4都没有

🧑QAQ想不到了啦

0

2024-03-26

提示OSEerror怎么办家人们

🧑the apple

8

2024-03-01

NoneType' object has no attribute 'int4WeightExtractionHalf

chatglm2-6b 正常加载 torch.cuda.is_available() true 但是提问的时候报错： AttributeError: 'N……

🧑moxiao1007

4

2024-02-18

在阿里云上怎样通过git下载魔搭社区的glm2模型

git clone http://tieba.baidu.com/mo/q/checkurl?url=https%3A%2F%2Fmodelscope.c……

🧑抢来月亮和星星

2

2024-02-16

求问一下大佬们

类似于这样的链接应该怎么用，git clone https://www.modelscope.cn/ZhipuAI/chatglm2-6b.githttp……

🧑asd147741baby

25

2024-02-16

cpu运行chatgptglm6b

到现在为止全网找不到一个用多核服务器运行对话机器人的视频，我想知道40核80线程的运行效果，有没有大神

🧑ugzzq

1

2024-02-16

打算买mi50微调glm3，合适吗

最近打算整一台主机微调glm3和70B玩预算比较紧张看来看去感觉mi50比较合适但是70B要40GB显存，多卡的话不知道mi50支不支迟. 大佬们有什……

🧑捡垃圾吃的

2

2024-01-31

请教各位，huggingface的chatglm2-6b的模型是不是有BUG？

本人反复验证，git clone http://tieba.baidu.com/mo/q/checkurl?url=https%3A%2F%2Fhuggi……

🧑dashewanzzzz

20

2024-01-30

请教大佬们部署chatGLM问题

大佬们，在Win10上部署了chatGLM-6b-int4，web_demo能打开，但是却显示不了回复内容是为什么呢？虽然能运行但还是会报错

🧑纯路人🐒💨

4

2024-01-26

Ubuntu系统下AMD显卡一键安装chatglm3并运行脚本

有需要的拿去，别忘记star：https://github.com/xlzhen-940218/Ubuntu-AMD-ROCM-ChatGLM3

🧑宝比8