AI开源项目

Rigging-轻量级LLM交互框架

Rigging是一个轻量级的LLM交互框架,旨在简化生产代码中语言模型的应用。它提供了结构化Pydantic模型与非结构化文本输出之间的互操作性,支持LiteLLM等多种语言模型。用户可以通过...

Rigging是一个轻量级的LLM交互框架,旨在简化生产代码中语言模型的应用。它提供了结构化Pydantic模型与非结构化文本输出之间的互操作性,支持LiteLLM等多种语言模型。用户可以通过Python函数定义提示,进行异步批处理和快速迭代,非常适合大规模生成任务。
Rigging的特点:
1. 支持结构化Pydantic模型与非结构化文本输出的互操作性
2. 支持多种语言模型,包括LiteLLM
3. 允许使用Python函数定义提示
4. 支持异步批处理
5. 支持快速迭代

Rigging的功能:
1. 用于大规模生成任务的语言模型应用
2. 在生产代码中简化与语言模型的交互
3. 实现灵活的文本生成与处理

相关推荐

暂无评论

暂无评论...