Optimum-TPU-为TPU优化的Transformers模型

基于 Ray 的 LLM 全生命周期解决方案，包括预训练、微调、部署和服务，支持 Python/SQL API，基于 Ray，易于扩展

KoboldCPP 是一个本地运行大模型的工具，支持 GPU 和 CPU 版本，旨在省去搭建运行环境的麻烦，是 gpt4all 的竞争产品。

这是一本全面介绍Go应用程序性能分析、追踪和可观察性的指南，涵盖了多种工具和技术，提供实际示例和最佳实践，重点关注可观察性和监控解决方案。

XVERSE-13B是一个开源的多语言大语言模型，具有以下功能：支持多语言、超长上下文长度、高质量多样化数据训练、跨语言表现优异、开源和基于机器学习技术。它能够处理多种语言的文本数据，具有强大的上下文理解能力，使用高质量多样化的数据进行训练，提高模型的性能和表现。在处理跨语言文本时，该模型表现出色。该项目是开源的，用户可以在XVERSE Technology的GitHub上获取相关代码和资源。通过机器学习技术，该项目利用大量数据进行训练，以提高模型的语言理解和生成能力。

Mira (Mini-Sora) 是腾讯 PCG ARC 实验室推出的一个高质量长视频生成项目，旨在迈向类似 Sora 的视频生成技术。

这是一个基于Mojo编写的Llama 2实现，旨在显著提升推理速度，充分利用Mojo语言的优势，支持Llama 2模型，并采用优化的内存管理，便于在各种环境中使用。

Jetstream 是为 AT Proto 协议开发的轻量级 JSON 事件流处理工具，能够将 ATProto 的 CBOR 编码 MST 块转换为易于处理的 JSON 对象。它支持实时订阅和过滤特定集合与 DID，提供压缩传输，特别适用于 Bluesky 社交网络的数据流处理。

Minikube 是一个用于在本地运行 Kubernetes 集群的工具，旨在帮助用户学习和实验 Kubernetes。它支持多种虚拟化技术，并提供简化的命令行工具来管理集群，适合开发和测试环境。

该项目演示了如何使用HuggingFace和DeepSpeed对EleutherAI的GPT-Neo模型进行微调，以生成Netflix电影描述，整个过程仅需47行代码，便于实现高效的文本生成。

基于 OpenAI 的聊天开源框架，旨在实现用户可同时获得多个大模型的并行输出。

为视觉-语言模型（例如CLIP）提供精心策划的Prompt/Adapter学习方法列表，包含最新的研究进展和代码实现，促进模型的高效学习和应用

该项目旨在使用Rust语言在CPU上运行大型语言模型的推理。它不仅实现了快速的推理速度，还能在低能耗的情况下提供高效的性能。适用于本地推理和Rust项目集成，适合研究新语言模型应用。

FinRobot是一个开源AI Agent平台，专为金融应用设计，利用大型语言模型和多种AI技术，提供全面的解决方案，旨在超越传统的金融GPT应用。

llm-papers 是一个专注于大型语言模型（LLM）相关文献的项目，汇集了大量研究论文，并提供文献分类、标签、重要算法和模型的详细信息。同时，用户可以提交和推荐新的文献，促进研究交流。

glider是一个用Go开发的代理转换工具，体积小且足够满足基本的代理需求，旨在提供简单而有效的代理服务。

这是一个基于 ESP32 的 AI 聊天机器人项目，旨在提供智能对话和互动体验。该项目利用 ESP32 硬件平台，支持语音识别和合成，能够与用户进行自然语言对话，具备多种对话场景和功能，并且代码开源，易于修改和扩展。

一个简单但功能强大的 Web 应用程序，100% 在本地运行，其中 AI（的 llama.cpp + Bakllava）不断监视您的网络摄像头并向您发送消息。

GrUMoDepth 是一种通过梯度方法进行的不确定性估计，专注于单目深度估计，旨在提高深度估计的准确性和可靠性。