unsloth 是一个用于微调和优化大型语言模型(LLM)的 Python 工具库,旨在通过动态量化和显存优化技术提高模型微调速度,并显著降低显存占用。它支持多种硬件配置和大型语言模型,特别适合处理超长上下文任务,并提供可直接在线体验的 Jupyter Notebook 示例,帮助用户快速上手。