ERNIE-百度开源的生成式语言模型

DeepSpeed-FastGen是DeepSpeed-MII和DeepSpeed-Inference的组合，用于提高LLM文本生成的吞吐量。它通过Dynamic SplitFuse技术，动态分解和统一prompt和生成，改善持续batching，提升响应性和效率，支持多种模型和硬件，且在多个模型上评测性能优于vLLM，有效吞吐量提升可达2.3倍。

基于Video-LLaVA的视频理解模型，针对CinePile基准测试优化，显著提升了对主题探索、叙事分析、角色关系等高层次理解能力，性能接近Claude 3，在视频内容理解方面取得了显著进展

CUDA课程：为高性能计算（HPC）工作降低门槛，提供理解CUDA编程项目如Karpathy的llm.c的基础，整合分散的CUDA编程资源为一个全面、有组织的课程

一个用于促进和支持链式思考的工具库，旨在提高模型推理能力和理解力。

Polymath 是一个高级的人工智能工具，旨在改变音乐制作人、作曲家和音乐爱好者与音乐库的互动方式。这个AI驱动的工具能够分析、分类和转换整个音乐库为多功能的样本库，简化音乐制作和作曲过程。

QinSQL 是一款高性能数据库，旨在高效处理查询和数据，针对各种查询场景进行了优化。

Social Media Agent是一款可自动化运营社交媒体账号的AI工具，支持抓取网页内容并生成符合用户风格的帖子内容，帮助用户提高社交媒体运营效率。

基于GPT的医疗垂直领域大模型，旨在将专业的医学知识、医疗信息、数据融会贯通，为医疗行业提供智能化的医疗问答、诊断支持和医学知识等信息服务，提高诊疗效率和医疗服务质量。

chi 是用于构建 Go HTTP 服务的轻量级、可组合的路由器，擅长于编写大型 REST API 服务，保持可维护性。

TransPixar是Adobe开源的一个视频生成项目，能够无缝地将烟雾和反射等透明元素融入场景中，支持多层叠加以生成和编辑视频，提供强大的透明通道处理能力。

fastero是一个用Python编写的命令行工具，旨在提供高效、优雅的运行时间分析体验。它具有现代化的界面，支持彩色输出和语法高亮，使得用户在进行性能分析时既能快速获得结果，又能享受良好的视觉体验。fastero还支持多行输入和自动补全功能，极大地方便了代码片段的测试和命令的输入。

Compressor是一个依赖于llama.cpp和HuggingFace模型的项目，旨在通过大语言模型对科学文献和演讲进行高效的摘要生成，帮助研究人员快速获取关键信息。

基于Gradio的聊天机器人应用，用LLaMA模型作为后端，演示了如何将LLaMA作为一种服务来部署和使用。该项目提供了友好的用户界面，支持多轮对话，并且易于部署和扩展，适合各种应用场景。

一款用于测试大语言模型在网页浏览能力上的基准工具，旨在通过 WebWalkerQA 数据集和 WebWalker 多 Agent 框架，为大型语言模型在网页导航和信息检索任务中的基准测试提供支持

基于YOLOv7的车牌检测与识别，包括中文车牌识别，支持双层车牌和13种中文车牌类型。

LLaMA_MPS是一个专门为Apple Silicon GPU优化的项目，旨在高效地运行LLaMA模型的推理过程。该项目充分利用苹果硬件的加速能力，提供简洁的API接口，优化内存管理，确保用户能够快速高效地进行自然语言处理任务。

OpenVLA是一个开源的视觉-语言-动作模型，旨在通过高效微调的方式支持多机器人控制，结合了先进的语言和视觉编码技术，能够在多种任务中表现出色，适用于广泛的机器人应用场景。

LLaMA-Adapter V2 是一个高效的模型适配器，能够在短时间内完成训练并支持多模态功能，包括图像解释和问答。