ImageBind-LoRA是一个非官方的ImageBind微调工具,利用LoRA技术实现高效的多模态嵌入学习。该项目旨在简化模型训练流程,并提供强大的可扩展性,适用于不同的数据集。
Kiln AI是一个易于使用的工具,专注于微调大型语言模型、生成合成数据以及团队协作管理数据集。
LOMO是复旦大学提出的新论文,旨在使用单台8片24G的RTX 3090对Llama 65B模型进行全参数微调。该项目通过优化训练效率和性能,为用户提供了兼容多种深度学习框架的解决方案,并附带详细的实验结果和分析,帮助用户更好地理解模型的表现。
Qwen2-VL微调工具:用于微调开源多模态大模型Qwen2-VL,支持单GPU和多GPU训练,提供简易上手的微调脚本和数据,旨在帮助开发者快速进行模型微调或再训练
LLMTuner是一个高效的工具,旨在通过简化的微调流程,使用户能够在几行代码内调整大语言模型(LLM)。它支持多种预训练模型的加载和微调,提供灵活的超参数调整功能,同时拥有友好的用户界面,便于用户快速上手。该项目的可扩展性强,适用于不同的应用场景。
Lorax 是一个基于 JAX 实现的低秩适应(LoRA)工具,旨在帮助研究人员和开发者高效微调大型语言模型。它利用低秩矩阵的方式,减少了微调过程中需要调整的参数数量,提升了计算效率,同时保持了模型性能。Lorax 易于集成,适合快速实验与原型开发,特别是在处理大型预训练模型时表现出色。
这是一个为gpt-3.5-turbo模型提供的微调图形界面,通过简单易用的Web界面,用户可以自定义数据集进行微调,并实时查看训练进度和结果。