ChatGLM-6B-QLoRA开源项目 – 高效微调与量化ChatGLM模型

ChatGLM-6B-QLoRA项目利用peft库实现了对chatGLM-6B和chatGLM2-6B模型的4bit QLoRA高效微调，并提供了模型的合并和量化功能。该项目包含了完整的训练和推理流程，以及推理性能测试，旨在优化模型存储和计算资源的使用。

ChatGLM-6B-QLoRA的特点:

1. 4bit的QLoRA高效微调
2. 支持chatGLM-6B和chatGLM2-6B模型
3. 模型的合并（merge）功能
4. 4bit的量化（quantize）
5. 完整的训练流程
6. 完整的推理流程
7. 推理性能测试

ChatGLM-6B-QLoRA的功能:

1. 高效微调chatGLM-6B/chatGLM2-6B模型
2. 合并lora model和base model
3. 量化模型以减少存储和计算资源
4. 进行模型的训练和推理
5. 测试模型的推理性能

相关导航

Temporal Technologies官网 – 简化分布式系统开发和管理

Temporal Technologies 通过提供持久执行平台，彻底改变了开发人员构建和管理分布式系统的方式，确保应用程序在面对故障、网络中断和其他干扰时具有弹性。它为开发者和企业简化了可靠且可扩展系统的开发，抽象了基础设施管理的复杂性。

NEasydict开源项目 – macOS便捷翻译工具

Easydict 是一款开箱即用的 macOS 翻译工具，支持单词查询和文本翻译，提供多种便捷查询方式。它集成了多种翻译服务，如有道词典、苹果系统词典、DeepSeek、OpenAI、DeepL 等，能够自动识别输入语言并查询目标偏好语言。此外，Easydict 还支持自动划词查询、系统 OCR 截图翻译、系统 TTS 和多种在线 TTS 服务，以及自定义服务设置和智能查询模式，为用户提供高效、智能的翻译体验。

NSycamore开源项目 – LLM驱动的非结构化数据搜索与分析平台

Sycamore 是一个基于大型语言模型（LLM）的搜索与分析平台，专门用于处理非结构化数据，如文档、幻灯片、音频等。它通过先进的LLM技术，帮助用户高效地搜索、分析和提取非结构化数据中的信息，支持多种数据类型，并且是一个开源平台。

stable-diffusion-from-scratch开源项目 – 从零实现扩散模型的系统性教程

从零开始实现 Stable Diffusion，系统性讲解其工作原理和背后的数学，并提供训练一个扩散模型的步骤。

WrapFast官网 – 快速创建AI应用的SwiftUI模板

WrapFast是一个SwiftUI模板，旨在帮助开发者在几分钟内创建AI包装器或任何iOS应用。它提供了丰富的功能和开箱即用的代码，使得开发过程更加高效。通过利用内置的后端，开发者可以安全地将AI集成到他们的应用中，并借助文档和教程获得支持。

DiffSynth-Studio开源项目 – 一键动漫化视频的开源项目

DiffSynth-Studio 是一个可平替 Domo AI 的视频动漫化开源项目 Diffutoon，提供 Colab 运行笔记，无需部署，开箱即用，直接一键动漫化你的视频，且转换后的视频画面稳定且流畅。

Plate开源项目 – 基于 React 的强大富文本编辑器

Plate 是一个基于 React 的富文本编辑器框架，提供了 50+ 个插件可以直接开箱即用，支持与现有系统无缝集成，同时也允许进行组件的定制开发，满足不同用户的需求。

可解释机器学习系列公开课开源项目 – 深入了解人工智能可解释性分析

该课程包含人工智能可解释性分析领域的导论、算法综述、经典论文精读、代码实战和前沿讲座，由B站知名UP主“同济子豪兄”主讲，课程视频免费开源。

IncarnaMind开源项目 – 与文档智能对话的项目

IncarnaMind是一个支持与多种文档格式（PDF、TXT）进行对话的开源项目，能够与大型语言模型（如OpenAI、Claude）兼容，具备自适应分块、多文档对话式问答等功能。用户可以上传文档，与之进行互动，获取文档的摘要、关键信息及相关查询。

Data Prep Kit开源项目 – 开源数据准备工具

Data Prep Kit 是一个开源项目，旨在为大型语言模型应用程序的开发者提供高效的数据准备和处理工具。该项目支持多种规模的数据处理，从个人电脑到数据中心级别，兼容代码和自然语言等多种数据模式，帮助用户简化数据准备流程。

Chat with MLX开源项目 – 与本地数据进行聊天分析的开源项目

一个开源项目，允许用户在 MacOS 上与本地数据进行聊天对话，帮助总结或分析信息，支持多个开源大语言模型。

Nnode-DeepResearch开源项目 – 深度研究的AI搜索工具

node-DeepResearch 是一个深度研究型的AI搜索工具，能够持续搜索和阅读网页，直到找到答案或超出token预算。该项目由Jina AI开源实现，使用gemini进行LLM操作，brave作为搜索引擎，jina reader用于阅读网页。其实现原理是在一个循环中进行搜索、阅读和推理，直到找到答案。

Nawesome-deepseek-integration开源项目 – DeepSeek大模型集成指南

awesome-deepseek-integration 是 DeepSeek 官方提供的开源项目，旨在展示如何轻松将 DeepSeek 大模型的能力接入各类软件。该项目涵盖了多种应用程序、Agent框架、聊天插件、浏览器插件、编程器插件等，提供了丰富的集成示例和详细的文档，支持多种编程语言和框架，持续更新并得到社区的支持和贡献。

NAwesome-LLM-Judges开源项目 – 一站式LLM评估工具集合

Awesome-LLM-Judges是一个一站式LLM Judges工具大集合，旨在为AI模型的自动评估提供全面解决方案。该项目汇集了30+前沿LLM Judges研究论文，涵盖多种评估场景，如辩论、安全、幻觉检测等。此外，它还提供了开源库Verdict，方便用户快速实现论文中的方法。

LLM-Aided OCR开源项目 – 高效转换PDF为Markdown文档

一个基于 LLM 的 OCR 扫描 PDF 开源工具，旨在通过利用多模态大语言模型（LLM）将原始的 OCR 扫描 PDF 文本转换成高准确度、格式正确且易于阅读的 Markdown 文档。