AI开源项目

LocalAI

这个开源项目具有以下功能: 1. 自主管理:可以独立管理,不依赖于其他系统或平台。 2. 社区驱动:由社区成员参与开发和改进驱动,意味着项目的发展是社区共同努力的结果。 3. 本...

标签:
这个开源项目具有以下功能: 1. 自主管理:可以独立管理,不依赖于其他系统或平台。 2. 社区驱动:由社区成员参与开发和改进驱动,意味着项目的发展是社区共同努力的结果。 3. 本地 OpenAI 兼容 API:提供本地的 API 接口,与 OpenAI 兼容,可以直接替代在消费级硬件上运行 LLM(Language Model)的 OpenAI。 4. 无需 GPU:不需要使用 GPU,可以在普通硬件上运行。 5. 运行 ggml 兼容模型的 RESTful API:能够运行支持 ggml 兼容的模型,并提供 RESTful API 接口。 6. 支持多个模型:支持多种模型,如 llama.cpp、alpaca.cpp、gpt4all.cpp、rwkv.cpp、whisper.cpp、骆马、考拉、gpt4all-j、大脑等等。

相关推荐

暂无评论

暂无评论...