micrograd开源项目 – 轻量级自动梯度引擎

一个基于NumPy从零开始构建的深度学习框架，旨在用于教育目的，附带详细的文档和单元测试。

该项目一步步教你用Python实现一个语法风格类似于PyTorch的深度学习框架。本教程将使用Python的基础语法和NumPy来实现深度学习领域的一些基础算法，包括但不限于反向传播、随机梯度下降、Adam优化器、Dropout层等。本项目还会介绍如何实现包括CNN、RNN、LSTM、ResNet、Transformer等在内的模型。

Time-LLM 是一个重新编程框架，用于将大型语言模型（LLMs）重新用于通用的时间序列预测，同时保持其骨干语言模型的完整性。

Micrograd 是一个实现标量值自动梯度引擎的项目，专门用于训练神经网络。它通过构建计算图并应用链式法则反向遍历，以计算梯度并调整参数以减少损失。该项目代码简洁易懂，仅94行，适合学习和实验神经网络训练的核心概念。

"Shumai (Meta)" 是一个先进的人工智能工具，旨在作为AI研究与开发的基础工具。它主要通过提供一个高效处理和转换张量（神经网络和机器学习算法的基本组成部分）的平台，支持AI领域的研究进展。

FlashAttention-2是备受欢迎的算法的升级版，是一种优化的多头自注意力实现，可以同时节约内存和运行时间（与PyTorch基准相比，速度提升了2-4倍）。

该教程是连接基础微积分与深度学习实践的桥梁，适合希望摆脱“黑箱”使用框架、深入理解模型数学本质的开发者。

TensorFlow是由Google开发的开源库，旨在简化机器学习模型的构建和部署过程，适合各种用户，从新手到专业数据科学家。

scaling-book 是一个全面的指南和资源库，专注于使用 JAX 扩展机器学习模型。它提供了详细的文档、实用的代码示例，涵盖了从基础到高级的扩展方法，并与现代机器学习框架和工具集成。该项目还支持社区驱动的更新和贡献。

在APL语言中实现自回归transformer（如GPT2）的项目，支持反向传播和使用Adam优化算法进行训练，旨在结合高性能和简洁代码的优势。

RSP项目利用随机帧预测技术进行视觉表示学习，旨在提高学习效率，适用于各种视觉表示任务。

modelkit是一个极简但功能强大的Python MLOps库，方便将机器学习模型快速部署到产品中，兼容多种框架，提供模型版本控制和多种数据源支持。

TritonAcademy是一个旨在解析GPU内核语言的项目，通过提供高层次的抽象和详细的代码示例，使GPU编程变得更加简单易懂。项目不仅包含丰富的代码示例和注释，还深入探讨了反向传播的数学原理，帮助开发者更好地理解和实现GPU内核开发。

boardgame.io是一个强大的JavaScript引擎，专注于回合制游戏的开发，提供全面的状态管理、实时对战和灵活的游戏阶段管理，旨在简化游戏开发过程，支持多人在线互动和AI对战，并能够快速进行原型验证。

Uncoop是一个AI驱动的平台，能够为您阅读书籍并提炼出核心概念，帮助您将其应用到独特的情境中。它消除了阅读书籍的需求，通过提供可操作的见解来提升您的决策能力。