LLaMA-MoE-混合专家模型的持续预训练

闻达是一个大型语言模型调用平台，支持多种模型如chatGLM-6B、chatRWKV、chatYuan，以及基于chatGLM-6B的chatPDF功能，方便用户进行知识库查询和文本生成。

RWKV_Othello是一款专为奥赛罗棋（又称黑白棋）设计的RWKV-7模型，能够预测合法走法、评估棋局局势，并进行上下文搜索，从而帮助玩家制定更优策略。

一个基于 Realtime API 的参考实现，帮助开发者快速构建和协调多代理模式的语音应用。该项目支持灵活的多代理协调机制，能够在客户服务、前台接待等场景中展示实际应用案例，并通过定义状态机提高模型的指令遵循能力。开发者可以在20分钟内快速原型化语音应用，使用更新的 WebRTC 接口实现低延迟的实时交互，同时享受开源带来的实现细节与工具集分享。

该项目专注于通过同心因果注意机制减轻模型中的物体幻觉问题，旨在提高模型对物体的识别能力，特别是在复杂的视觉语言任务中。

BPF 是一个运行从用户空间传递的程序的内核虚拟机。awesome eBPF 这个 repo 整理了很多关于 eBPF 的资源，旨在帮助开发者深入了解 eBPF 的应用与实现。

这是一个开放的集合，提供了成功训练大型语言模型的方法论，适用于不同规模和类型的语言模型，包含多种训练技巧和最佳实践。该项目由社区驱动，持续更新和扩展，旨在帮助研究人员和开发者提高语言模型的训练效果。

DALLE-reproduction项目旨在重现OpenAI的DALLE模型，能够根据文本描述生成高质量图像，支持多种文本输入格式，并提供可扩展的模型架构和可调参数，以优化生成效果。该项目实现了多种训练和推理策略，适用于多种应用场景。

LAiW是一个专注于中文法律领域的大型语言模型，旨在提供多种基准测试以评估法律模型的性能，并支持法律文书的生成与分析，同时包含丰富的法律知识库和数据集。

一个开源的AI推理引擎框架，支持多种强大功能，包括逐步推理、基于记忆的规划、多智能体混合决策、束搜索和自我反思等。

LLM Compressor是一个大型语言模型压缩库，利用领域内最新技术和研究，支持训练中和训练后的压缩技术。该库设计灵活易用，与PyTorch和HuggingFace Transformers兼容，便于快速实验和模型优化。

该项目提供了从多个视角生成场景图的能力，能够分析复杂的场景关系，提升视觉理解能力。

LLM-Agent-Survey是一个关于基于大型语言模型(LLM)的自主智能体的文献资源集，汇聚了最新的研究和应用，提供详细的文献综述与分析，支持多种LLM模型和框架的比较，包含自主智能体的设计与实现示例。

NOS是一个功能强大、易于使用的推理服务框架，旨在帮助用户高性能地部署AI服务并研发定制化解决方案。它支持多种AI模型，具有良好的可扩展性，适合各种应用场景。

Cold Compress是一个开源轻量工具包，旨在创建和基准测试基于GPT-Fast的缓存压缩方法，支持自定义和扩展KV缓存压缩技术，提供灵活的解决方案以优化数据存储和访问效率。

med-flamingo是一个基于OpenFlamingo-9B和LLaMa-7B构建的模型，能够在医学领域执行少样本的视觉问答任务。该项目结合了CLIP ViT/L-14视觉编码器，并使用约4.7K本医学教科书进行训练，包含0.8M张图像和548M个token，支持1.6M个图像字幕对的生物医学数据集。

Podman 是一个用于管理符合 OCI 标准的容器和 Pod 的工具，具有无守护进程架构，支持根用户和非根用户运行，并提供与 Docker CLI 兼容的命令。它还具备强大的网络和存储功能，能够灵活地管理容器和 Pod。

VQGraph重新思考图表示空间，旨在桥接图神经网络（GNNs）和多层感知机（MLPs），提供创新的图表示技术，提升图基机器学习任务的效率和效果。

一个用于在 Next.js 应用中重启系统的功能，利用 napi-rs 直接运行 Rust 代码。该项目旨在通过简单的 API 接口，提供高效、安全的服务器重启能力，特别适用于 Next.js 14 及以上版本。