AI开源项目

LLM-Distillery-自动化的大语言模型蒸馏工具

大语言模型蒸馏的自动化管道,支持单教师和多教师模型的蒸馏,适用于指令和完成文本的蒸馏,支持离线蒸馏和跨平台操作,具备丰富的自定义选项

大语言模型蒸馏的自动化管道,支持单教师和多教师模型的蒸馏,适用于指令和完成文本的蒸馏,支持离线蒸馏和跨平台操作,具备丰富的自定义选项
LLM-Distillery的特点:
1. 支持单教师和多教师模型的蒸馏
2. 适用于指令和完成文本的蒸馏
3. 支持离线蒸馏
4. 跨平台操作
5. 丰富的自定义选项

LLM-Distillery的功能:
1. 使用单教师模型进行文本蒸馏
2. 通过多教师模型进行更复杂的蒸馏任务
3. 进行指令文本的蒸馏
4. 执行离线蒸馏以提高安全性和效率
5. 利用自定义选项调整蒸馏过程

相关推荐

暂无评论

暂无评论...