gpt4all是一个基于聊天机器人的开源项目,训练数据包括代码、故事和对话等多种类型。该项目可以在M1 Mac上流畅运行,提供新的开源GPT模型,参数规模为7B,基于LLaMA进行训练。此外,该项目还发布了800K数据样本、数据管理程序、训练代码和模型权重,以促进开放研究。针对CPU,该模型还发布了量化4位版本。
相关推荐
LocalAI
这个开源项目具有以下功能: 1. 自主管理:可以独立管理,不依赖于其他系统或平台。 2. 社区驱动:由社区成员参与开发和改进驱动,意味着项目的发展是社区共同努力的结果。 3. 本地 OpenAI 兼容 API:提供本地的 API 接口,与 OpenAI 兼容,可以直接替代在消费级硬件上运行 LLM(Language Model)的 OpenAI。 4. 无需 GPU:不需要使用 GPU,可以在普通硬件上运行。 5. 运行 ggml 兼容模型的 RESTful API:能够运行支持 ggml 兼容的模型,并提供 RESTful API 接口。 6. 支持多个模型:支持多种模型,如 llama.cpp、alpaca.cpp、gpt4all.cpp、rwkv.cpp、whisper.cpp、骆马、考拉、gpt4all-j、大脑等等。
暂无评论...