微软 BioGPT 使用入门教程
pytorch吧
全部回复
仅看楼主
level 11
sealed_ss 楼主
最近ChatGPT大火,但是很多人还不知道什么是GPT,GPT全称是generative pre-trained transformer(可生成的,预训练的transformer),实际上就是文本生成(text generation),只不过ChatGPT加入了对话,使得它可以通过理解
人类
的描述生成文本。
今天我们来用一下微软开源的BioGPT,BioGPT是微软开发的,针对生物医学领域的GPT模型,可用于关系提取、问答、文档分类和文本生成任务。据官方介绍,BioGPT在大多数任务上的表现均优于之前的模型,所以我们来尝试一下。
这篇教程只使用了文本生成模型,仅支持英文,因为我的显存只有4G,太小,加载模型会导致显存溢出,所以只使用到了CPU,没有使用GPU。
首先来安装环境。
我们要分别安装pytorch(参考之前的安装教程)、transformers和sacremoses(后面这两个直接使用pip安装即可)。
接下来输入如下代码:
然后把“COVID 19 is"换成自己想使用的文本开头即可。
需要注意,生成的结果都属于生物医学领域,比如我之前尝试的结果就是各种疾病之类的。
代码写完后直接执行,首次使用会下载模型到C盘的缓存目录,大概需要6G左右的空间,模型下载完成之后就会开始生成文本,比如我生成的结果:
祝吧友玩的开心~
2023年02月18日 02点02分 1
level 6
楼主好人[大拇指]
2023年02月18日 02点02分 2
level 11
sealed_ss 楼主
终于恢复了[小乖]
2023年02月20日 09点02分 3
level 8
[大拇指]
2023年02月25日 06点02分 4
level 10
请问这样就算下载成功了吗,为什么还是*正在运行
2023年03月16日 06点03分 5
看样子可能在校验,等一会就可以
2023年03月16日 06点03分
@sealed_ss 好的,再等它个把小时
2023年03月16日 06点03分
@✨善能量 [惊讶]倒是不用那么长,重启下notebook 也许就好了
2023年03月16日 06点03分
@sealed_ss 重新运行一下这个命令?
2023年03月16日 07点03分
level 10
遇到这种情况,是电脑的配置不够吗
2023年03月16日 09点03分 6
回复 蚓之心一 :内存不够了
2023年03月16日 09点03分
@sealed_ss 10G以上的C盘剩余内存,应该够?
2023年03月16日 09点03分
@✨善能量 内存不是硬盘
2023年03月16日 10点03分
@sealed_ss 那我该怎么处理?
2023年03月16日 10点03分
level 10
吧主,我换了台电脑
可以把当时下载的文件(6GB那个)传到新电脑,然后省去联网下载的过程吗
2023年03月18日 08点03分 8
@✨善能量 问题不大[欢呼]
2023年03月18日 11点03分
可以
2023年03月18日 08点03分
@sealed_ss okk,nice
2023年03月18日 08点03分
@sealed_ss OK了,可以运行biogpt并输出结果了 多谢吧主!
2023年03月18日 10点03分
level 1
接入试用了一下,感觉生成答案的质量不是很高啊
2023年10月30日 06点10分 10
level 1
这个模型能部署到本地吗,我尝试了一下仅在本地跑模型跑不通
2023年11月22日 13点11分 11
就是本地用的,你发的错误目前没遇到过[小乖]
2023年11月22日 23点11分
level 1
2023年11月22日 13点11分 12
1