MiniMax 发布的首个开源大语言模型,采用MoE模型,具有456B参数,支持大规模参数激活,能够处理长达1M的文本,并在长文本召回测试中表现优异。
Mistral 7B是Mistral AI发布的首个大型语言模型,具备强大的适应性和自然编码能力,支持8k序列长度,超越Llama 2 13B的所有基准测试,采用Apache 2.0许可证,可免费使用。