litellm是一个简单且轻量级的代码包,主要通过使用100行代码来实现调用多个API端点(包括OpenAI、Azure、Cohere和Anthropic)。它的主要功能是管理输入和输出的转换,使得调用和使用这些API变得更加简单。
这个开源项目的目的是通过 Cloudflare Workers 实现 Claude API 格式和 OpenAI Chat API 格式之间的转换,使得这两种不同的 API 可以相互兼容而无需使用任何特殊技巧。