LiteLLM是一个支持多种LLM API的Python SDK/Proxy Server,使用OpenAI格式调用100+LLM API,旨在方便开发者与多种大型语言模型进行交互。
LiteLLM的特点:
1. 支持多个LLM API,包括基于OpenAI、Azure、VertexAI等
2. 提供Python SDK,方便开发者集成
3. 支持Proxy Server功能
4. 兼容多种主流机器学习平台
LiteLLM的功能:
1. 通过Python代码调用不同的LLM API
2. 作为Proxy Server使用,转发请求至特定的LLM API
3. 集成到现有的机器学习工作流中
相关推荐
暂无评论...