可调用插件的MOSS 大语言模型
多模态吧
全部回复
仅看楼主
吧务
level 10
复旦 NLP 团队的 MOSS 大语言模型
开源,增加「搜索引擎、计算器、解方程、文生图」等插件功能,可以在线体验,支持本地部署。
MOSS是一个支持中英双语和多种插件的开源对话语言模型,moss-moon系列模型具有160亿参数,在FP16精度下可在单张A100/A800或两张3090显卡运行,在INT4/8精度下可在单张3090显卡运行(但该精度未开放)。MOSS基座语言模型在约七千亿中英文以及代码单词上预训练得到,后续经过对话指令微调、插件增强学习和
人类
偏好训练具备多轮对话能力及使用多种插件的能力。
项目地址:网页链接
2023年04月23日 15点04分 1
吧务
level 10
发帖了几天才给我过审[怒]
2023年04月26日 17点04分 2
level 1
刚完成部署,也能对话。怎么打开插件和指令微调呢?
2023年05月12日 08点05分 3
通过meta instruction.txt来控制各个插件的启用情况。默认情况下所有插件均为disabled,若要启用某个插件,需要修改对应插件为enabled并提供接口格式。
2023年05月12日 08点05分
微调方法链接如下,指令微调数据集其实就差不多是给出问题,让回答做选择题或者判断题。你可以找些开源的instruct tuning数据集。https://github.com/OpenLMLab/MOSS#fire-%E5%BE%AE%E8%B0%83
2023年05月12日 08点05分
1