MOSS是一个支持中英双语和多种插件的开源对话语言模型,具有多轮对话能力和插件使用能力。
MOSS的特点:
1. 支持中英双语
2. 多种插件集成
3. 160亿参数的moss-moon系列模型
4. 在FP16精度下可在单张A100/A800或两张3090显卡运行
5. 在INT4/8精度下可在单张3090显卡运行
6. 经过对话指令微调和插件增强学习
7. 基于约七千亿中英文和代码单词的预训练
MOSS的功能:
1. 进行多轮对话
2. 使用不同插件扩展功能
3. 在不同显卡上运行以优化性能
相关推荐
暂无评论...