AI开源项目

Serge-自托管的Alpaca聊天界面

基于 llama.cpp 的用于运行 Alpaca 模型的聊天界面。完全自托管,不需要 API 密钥,适用于4GB内存,可运行在 CPU 上。

基于 llama.cpp 的用于运行 Alpaca 模型的聊天界面。完全自托管,不需要 API 密钥,适用于4GB内存,可运行在 CPU 上。
Serge的特点:
1. 完全自托管,无需 API 密钥
2. 支持在4GB内存的设备上运行
3. 基于 llama.cpp,适用于 Alpaca 模型
4. 易于使用的 API
5. Docker 化部署

Serge的功能:
1. 在本地服务器上运行聊天界面
2. 与 Alpaca 模型进行交互
3. 通过 Docker 快速部署
4. 使用 API 进行自定义集成

相关推荐

暂无评论

暂无评论...