Awesome-LLM-Constrained-Decoding-大型语言模型约束解码资源

QLLM是一个通用的大语言模型量化工具箱，支持2-8位的LLM量化，用户可以轻松使用GPTQ和AWQ方法进行模型量化和压缩。该工具箱提供了易于使用的工具和接口，适用于多种大语言模型，旨在帮助用户在不同精度下评估模型性能。

MGDebugger是一款多粒度LLM代码调试工具，采用分层调试方法，能够精确定位并解决代码错误，从而有效提升代码的正确率和调试效率。

NODE GAM是一个可微分的广义加法模型，旨在为深度学习提供可解释性。它结合了深度学习的强大性能与可解释模型的透明性，帮助用户理解模型的决策过程。

一个用于MIT 6.S983安全硬件设计课程的实验室代码库，帮助学生理解现代硬件中的安全问题及解决方案。该项目包含多个实验室，涵盖不同的安全攻击和缓解措施，支持浏览器侧信道、缓存侧信道等多种攻击实验，并提供针对CPU的Fuzzing测试。设计旨在教育目的，便于学生实践和学习。

SourceGit是一个开源的跨平台Git图形界面客户端，支持Windows、macOS和Linux，旨在提供快速、直观的Git操作体验。它包括克隆、拉取、推送等常用命令，以及视觉化的提交图和多种语言支持，方便用户进行版本控制。

Creative ML是一个基于JAX、PyTorch和Numpy的机器学习课程，提供丰富的实践示例和笔记本，适合初学者和有经验的研究者，涵盖创意机器学习的不同方面。

NotebookLlama 是 Meta 发布的开源 NotebookLM 播客方案，提供将 PDF 转换为播客的完整工作流程和教程，助力用户轻松创建高质量的音频内容。

MagicMirror是一个开源免费的AI换脸工具，支持一键换脸、发型和穿搭，用户无需复杂配置即可使用。该项目提供简便的安装包，安装包大小不到10MB，且完全支持本地操作，确保用户隐私安全，适合普通电脑运行，甚至不需要GPU。

ChatGPT Demo 是一个基于 ChatGPT API 和 Node.js 的开源项目，它的主要功能是帮助用户快速在本地搭建和部署一个简单的 ChatGPT 应用。该项目的 GitHub 页面提供了详细的开发文档和代码示例，用户可以根据需要自定义和扩展功能。

Code Interpreter API 是一个基于 LangChain 的开源代码解释器实现，能够在沙盒环境中安全地执行 Python 代码。它支持用户使用自己的 OpenAI API 密钥进行本地运行，并集成了代码解释和执行的功能，提供灵活的扩展和自定义可能性。

高效LLM推理加速助手：通过并行提示技术提升大型语言模型的推理效率，适用于边缘和移动环境，具有正交优化、内存效率和训练效率三大特点，显著提升速度并保持低内存开销

AgentStack是一个快速构建强大AI Agent的工具，提供从命令行创建AI Agent项目的简便方法，无需复杂配置，即可快速开始开发。

这个开源项目是一个智能、多功能的通用数据库SQL客户端和报表工具。它不仅可以与各种数据库进行交互，执行SQL查询和操作，还具备ChatGPT功能，可以进行智能对话和自然语言查询。这使得用户可以通过简单的对话方式与数据库进行交互，提取需要的信息或生成报表。该项目的目标是提供一个强大且易于使用的工具，使用户能够更高效地管理和分析数据库中的数据。

Chat Chat 是一款支持多种 API 和功能的 ChatGPT 用户界面，旨在为用户提供便捷的聊天体验。它不仅支持多种聊天模型，还可以通过插件功能进行内容搜索和总结，同时允许用户分享聊天记录和云端存储个人设置。

Twitter到Bluesky迁移工具：一键将你的Twitter数据导入Bluesky平台，支持过滤和自定义导入，让你的社交媒体内容轻松转移。

Aurora项目提供了一种简单的方式来创建自己的Gpt3.5 API，用户只需经过几个简单的步骤即可实现服务，且该项目支持从镜像安装，旨在为用户提供便捷的AI服务体验。

Prompt Extend 是一个利用文本生成技术扩展稳定扩散提示的项目，能够为生成的图像添加合适的风格提示，从而提高图像的多样性和质量。该项目支持多种风格和主题的提示，使得用户可以更灵活地创造出符合需求的艺术作品。

Diffusion Handles通过将激活提升为3D，实现了扩散模型的3D编辑能力，使得用户可以更灵活地处理和修改3D模型。