Awesome LLM OS开源项目 – 大型语言模型操作系统资源库

这是一个针对高效大语言模型的精心策划的资源列表，涵盖相关研究论文和技术，定期更新以保持信息的时效性，并对资源进行分类，方便用户浏览。包括理论论文和实践实现，旨在为研究人员和开发者提供有价值的参考。

OpenEvals是一个为大型语言模型（LLM）应用提供强大评估工具的项目。它支持多种预建评估器，如正确性、简洁性和幻觉检测，能够帮助开发者全面评估LLM应用的性能。OpenEvals兼容Python和TypeScript，适配多种开发环境，并且集成了LangSmith，方便实验跟踪和结果记录。

tkbc是一个利用张量分解技术进行时序知识库补全的项目。它专门处理知识库中的时序数据，并集成了来自Facebook AI Research的先进机器学习技术。该项目是开源的，可在GitHub上获取，供社区使用和贡献。

sqlTranslate是一个开源项目，用户可以通过自然语言输入查询，获取相应的SQL代码；或者输入SQL代码，得到易于理解的自然语言翻译。该工具完全免费，旨在简化数据库查询的学习和使用过程。

DigiQ 是一个利用人工智能技术，帮助用户通过少量数据训练高效的设备控制智能体的项目。它创新性地结合了视觉语言模型（VLM），显著提升了学习效果，并提供了完整的代码和预训练模型，方便用户复现和使用。

Code-R1通过可靠的奖励机制重现代码生成的R1流程，旨在提升代码生成的精准度和效率。该项目利用少量样本进行训练，性能超越大规模参数模型，并提供安全、可扩展的沙盒化执行环境，有效减少奖励误判，确保代码生成的高效性和安全性。

LLaVA++是LLaVA模型的扩展，集成了Phi-3 Mini Instruct和LLaMA-3 Instruct模型，旨在提升视觉和语言指令处理能力。项目通过引入新模型如Phi-3-V和LLaVA-3-V，专注于提高指令跟随能力和处理学术任务数据集的能力。LLaVA++在多模态任务中表现出色，尤其是在指令跟随和视觉语言任务方面。项目提供了详细的安装指南和更新脚本，便于本地部署和测试。Model Zoo中列出了所有可用模型及其Hugging Face页面链接，方便用户访问和利用预训练权重。项目还更新了文档，包含最新发展和模型细节，并提供了完整的代码库，包括训练和微调模型所需的所有脚本和模块。此外，项目改进了README文件，突出了其开源性质和模型升级的重要性。

Trident 是一种易于使用的语言，专门用于将输出管道化到多个目标。它提供了简单直观的语法，支持多种输出目标，具有高度的灵活性和可扩展性，旨在简化复杂的数据管道处理并提高效率。

一个集合了优秀 GPT 提示的项目，旨在帮助用户更好地利用 GPT 技术。该项目提供了多种高质量的提示，支持不同场景的应用，易于使用和集成，并且是开源的，欢迎贡献和讨论。

ConsiStory是英伟达研发的无训练框架，专为一致性图像生成而设计，支持SDXL和Stable Diffusion 3等主流架构。该框架通过先进的注意力机制和特征共享技术，确保在多人场景中主体一致性保持率高达98%，并在性能上较ControlNet提升23%。此外，ConsiStory还提供了布局多样性控制功能，允许随机生成背景的同时保持主体不变，同时兼容多种文生图模型，适用于广泛的图像生成任务。

MAP-NEO是一个完全开源的大型语言模型，提供预训练数据、数据处理流程、预训练脚本和对齐代码，支持中英文，性能与LLaMA2 7B相当。

gptcommit 是一个开源工具，专门用于生成 Commit log，能够通过快速理解代码逻辑和 diff 来归纳出概要，帮助开发者更好地管理版本控制。

Prototype是一个快速启动的Docker化模板，用于在几秒钟内设置带有OpenAI集成的Django项目。它允许用户通过一个命令创建复杂的项目，且是免费且开源的，用户可以轻松克隆和使用。

PyrEFT 是一系列基于表示微调（ReFT）的方法，它在冻结的基础模型上操作，学习对隐藏表示的任务特定干预，提供了一种比传统参数高效微调（PEFT）方法更强大的替代方案。

这是复旦大学王一老师开源的一个高效GPT实现，经过2.5年的努力，旨在单个GPU上成熟且高度优化。