llama2.zig-一款纯Zig实现的Llama 2推理工具

AirLLM 可以让你的 70B 大型语言模型在单个 4GB GPU 卡上运行推理，或者让 405B Llama3.1 在 8G 的 GPU 卡上运行。

pagesnap 是一个基于 Python playwright 的工具，能够将网页保存为单个 HTML 文件，方便用户分享和保存。其使用侵入性小，操作简单，适合各种应用场景。

chinese2digits 是一个高效的中文转阿拉伯数字的工具，支持多种中文数字表达形式，适合集成到各种NLP项目中。

science4cast是一个专注于利用机器学习和人工智能技术预测科学研究趋势的项目。

Anole是一个开源的自回归原生多模态模型，专注于交错图像和文本的生成。它支持文本到图像生成、交错文本-图像生成、文本生成及多模态理解，旨在提供丰富的生成能力和理解能力。

一个用于在 ComfyUI 中实现自定义 DiT 生成视频中物体或者生物运动轨迹的项目，基于 CogVideo 模型。

RenderCV是一个基于LaTeX的简历框架，支持多种主题和格式，用户可以通过YAML输入文件生成高质量的简历，包括PDF、Markdown、HTML和PNG格式。同时，它提供了自动化工具用于更新简历，并允许用户对LaTeX代码进行完全控制，确保灵活的模板定制和高质量的输出。

网络安全领域的大语言模型，为安全审计和网络防御提供自然语言处理能力，支持恶意代码分析、网络攻击检测和安全漏洞预测。

CodeFuse-ModelCache 是一个开源的语义缓存系统，通过缓存已生成的模型结果，显著降低类似请求的响应时间，从而提升用户体验。该系统支持大规模模型的查询，易于集成到现有应用程序中，帮助开发者优化性能和提升效率。

Run:ai Model Streamer是一个用于将张量从文件流式传输到GPU内存的Python SDK，支持并发和流式处理。

Witsy是一款桌面AI助手，支持多种AI模型，提供聊天完成、图像生成功能以及便签功能，帮助用户创造最佳内容，提升工作效率和创意表达。

分享 GitHub 上一份精心收集的 Claude 高质量提示词集合，涵盖了多种应用场景的提示词，旨在帮助用户高效生成所需内容，提升创作灵感和工作效率。

让大型语言模型的缓存压缩变得简单，通过多种缓存修剪方法降低内存使用，提高解码速度。

这是一个精心策划的数学优化课程、讲座、书籍、笔记、库、框架和软件的集合。

一个全面的企业级RAG系统教程项目，涵盖从入门到精通的完整知识体系。包括文档问答、检索优化、评估方法、Agent实现等多个模块，提供详细的实践示例和优化方案，帮助开发者构建高质量的RAG应用

一个用纯C语言实现的项目，旨在训练GPT-2模型，代码量仅为1000行，具有高效的内存管理和性能优化，方便扩展和修改。

用 GitHub Codespaces、VS Code 和 Azure 创建 ChatGPT 插件的快速入门示例，包括部署插件的模板。该项目旨在帮助开发者快速上手插件开发，提供了易于使用的框架和工具支持。

结合小红书的业务场景和内部实践，深入讲解现代推荐系统的主要技术和算法，支持多种推荐策略，提供代码示例与实现细节，帮助用户理解和应用推荐系统的最佳实践。