Instructor开源项目 – LLM结构化输出工具

Instructor 是一个基于 Pydantic 构建的 Python 库，专门用于从大语言模型（LLM）获取结构化数据。它支持验证、重试和流式响应，帮助开发者更高效地处理 LLM 输出。

Instructor的特点:

1. 基于 Pydantic 构建，易于管理 LLM 输出的验证、重试和流式响应
2. 支持自定义输出结构
3. 与 OpenAI、Anthropic 和 Gemini 等多种 LLM 服务无缝集成
4. 支持多种编程语言，包括 Python、TypeScript、Ruby、Go 和 Elixir

Instructor的功能:

1. 从大语言模型获取结构化数据
2. 验证和重试 LLM 输出
3. 流式处理 LLM 响应
4. 与其他 LLM 服务集成

相关导航

txtai开源项目 – 构建AI语义搜索应用的工具

txtai是一个基于Python的库，结合了Hugging Face Transformers、Sentence Transformers和FastAPI，旨在方便开发AI驱动的语义搜索应用。它允许用户构建强大的搜索引擎，支持多种文本嵌入模型，并提供快速的API接口，适用于实时搜索和索引。

skfolio开源项目 – 用于投资组合优化的Python库

skfolio是一个基于Scikit-Learn构建的Python库，旨在帮助用户进行投资组合优化。它支持多种优化方法，并且易于与其他Python数据科学工具集成，提供灵活的API接口以满足不同的需求。

NPatho-Bench开源项目 – 病理学基础模型基准测试工具

Patho-Bench 是一个 Python 库，专门用于对病理学领域的基础模型进行基准测试。它提供了标准化的训练-测试分割，支持多种评估框架，并自动化 GPU 负载均衡，以支持大规模实验。

NDataChain开源项目 – 批量处理非结构化数据的开源工具

DataChain是一个开源的Python库，专门用于批量处理和整理非结构化数据。它支持本地机器学习模型和大型语言模型（LLM）API调用，特别优化了离线批处理操作，帮助用户高效处理大量数据。

NLanggraph-bigtool开源项目 – 高效管理大量工具库的Python库

Langgraph-bigtool是一个Python库，专为创建能够访问大量工具的LangGraph代理而设计。它帮助代理高效地管理和调用庞大的工具资源，适用于需要处理数百甚至数千种工具的场景。通过LangGraph的持久化层存储工具元数据，并提供自定义工具检索功能，极大提升了工具检索和使用的效率。

Hugging Face Kernels开源项目 – 动态加载计算核心

Hugging Face Kernels 是一个用于加载计算核心（kernels）的库，这些核心可以直接从 Hugging Face 的 Hub 中动态加载。它支持多个 Python 版本和不同的 PyTorch 构建配置，使 Python 应用能够直接从 Hub 加载计算内核，从而大幅提升性能和灵活性。

streaming-json-py开源项目 – 高效的JSON流预处理器

一个纯Python实现的库，专注于流式生成LLM的JSON片段，便于前端展示，且不依赖任何第三方库。它支持高效的JSON流解析，用户友好的接口，实时数据处理，灵活的配置选项，并兼容大规模数据流。