NVIDIA kvpress-简化大型语言模型缓存压缩

mcts-llm是一个集成了蒙特卡洛树搜索（MCTS）和提示工程技术的轻量级项目，旨在提高大型语言模型（LLMs）的性能。该项目通过结合MCTS算法与大型语言模型，优化提示工程，来提升模型的响应质量。其轻量级的设计使得该项目易于集成和使用，并且支持多种语言模型，适用于各种自然语言处理任务。

一个概念验证示例，展示了语言模型如何管理和组织文件。通过一个脚本，可以让GPT-4操纵文件系统，并以用户需求的形式进行排序和展示。

该项目证明可以将 LLMs 的工作负载分散到多个设备上并实现显著的加速，支持在低功耗设备上运行，兼容Llama 2 70B模型。

该项目提供了一个面向NLP应用的多模态数据集列表，旨在为研究者和开发者提供丰富的资源，以支持多模态自然语言处理任务的研究和应用。

一个用于检测大语言模型是否使用有版权书籍进行预训练的数据的工具，帮助用户确认文本的来源以及合规性。

OAKINK2是一个关于复杂任务完成中双手与物体交互的综合数据集，旨在为手部动作的机器学习模型提供丰富的训练数据，促进机器人和人工智能领域对人类交互的模拟与评估。

在消费级GPU上运行量化扩散模型，主要功能是将复杂的AI模型量化，使其在普通电脑上也能高效运行，特别适合在免费Colab笔记本上进行推理计算

gptpdf是一个利用GPT技术来解析和分析PDF文件的工具，能够将PDF内容转换为Markdown格式，支持复杂排版、数学公式、表格、图片和图表的完美解析。

NOS是一个功能强大、易于使用的推理服务框架，旨在帮助用户高性能地部署AI服务并研发定制化解决方案。它支持多种AI模型，具有良好的可扩展性，适合各种应用场景。

SEPIA 服务器支持通过WebSocket连接进行开源语音识别，易于自定义与扩展，兼容多种语音识别引擎。

ComfyUI虚拟试穿助手：基于ComfyUI平台的IDM-VTON技术适配，实现虚拟试穿功能，帮助用户在不同场景下快速预览服装效果，提升在线购物体验

LLaVaVision是一款类似AI 'Be My Eyes' 的Web应用程序，利用llama.cpp后端提供高效的视觉辅助服务，旨在帮助视力障碍用户通过实时图像识别与远程志愿者互动，提升生活质量。

C-Shopping是一个基于Next.js开发的精美购物平台，支持Desktop、Tablet、Phone等多种设备。它采用Tailwind CSS实现美观的用户界面，并集成了Headless UI以提供无障碍功能，使用MongoDB进行高效的数据存储，结合Redux Toolkit和RTK Query进行状态管理，同时实现了JWT认证以保障安全性，使用Docker进行容器化部署。

Chat UI是HuggingChat的聊天界面，可为开源模型(如OpenAssistant)构建聊天界面，是一个基于SvelteKit的应用程序。它提供了用户友好的聊天界面，支持多种开源模型，且可通过开源代码进行定制和扩展。

一个 AI 图库，能够与图库进行交互，帮助用户标注和管理大批量的图片素材和相册。

Screenity是一款功能强大的Chrome录屏插件，支持在屏幕上任意位置进行录制和标注信息。用户可以方便地录制教学视频、软件演示和在线会议，同时提供多种音频录入选项和简单的视频编辑功能。

包含 Llama （Alpaca LoRA）模型、ChatGLM （ChatGLM Tuning）相关 Lora 的训练，提供多种 AI 研发提效的工具和功能。

一款能突破 123 云盘下载速度限制的工具，使用 Python 编写的脚本，能够绕过 123 云盘的自用下载流量限制，并提供多种操作功能。