AI开源项目

Nano-自制的大语言模型,电子鹦鹉

Nano是一个自制的168M大语言模型,具备完整的模型结构和多种推理方式,适用于多种场景的AI应用。

Nano是一个自制的168M大语言模型,具备完整的模型结构和多种推理方式,适用于多种场景的AI应用。
Nano的特点:
1. 完整的模型结构PyTorch实现
2. 训练和数据处理脚本
3. 推理的PyTorch和C实现
4. 低秩适配LoRA插件机制
5. 浏览器上的端侧推理

Nano的功能:
1. 在线体验:bd4sur.com/Nano/infer
2. 在GitHub上查看开源仓库:github.com/bd4sur/Nano
3. 使用Jetson AGX Orin进行模型训练
4. 在浏览器中进行推理

相关推荐

暂无评论

暂无评论...