AI开源项目

GLM-Edge-端侧大语言模型,优化手机和车机

GLM-Edge是一系列针对端侧场景优化的大语言模型,包含1.5B/4B的对话模型和2B/5B的多模态模型。在骁龙8 Elite平台上,该模型能够实现每秒60+ tokens的解码速度,经过特别调整的模型...

GLM-Edge是一系列针对端侧场景优化的大语言模型,包含1.5B/4B的对话模型和2B/5B的多模态模型。在骁龙8 Elite平台上,该模型能够实现每秒60+ tokens的解码速度,经过特别调整的模型结构在性能和实用性之间取得了良好的平衡,适合用于移动设备和车载系统。
GLM-Edge的特点:
1. 包含1.5B/4B的对话模型
2. 包含2B/5B的多模态模型
3. 专为手机和车机等端侧场景优化
4. 在骁龙8 Elite平台上可达到每秒60+ tokens的解码速度
5. 模型结构经过特别调整以平衡性能和实用性

GLM-Edge的功能:
1. 适用于移动设备的自然语言处理
2. 用于车载智能助手
3. 支持多模态输入和输出
4. 可用于实时对话系统
5. 适合边缘计算环境的AI应用

相关推荐

暂无评论

暂无评论...