在任意应用中用一行代码将商业版LLM(GPT 3.5/4)替换为私有模型(Falcon、GPT4ALL等),旨在提供与OpenAI模型(如GPT 3.5/4)无缝对接的替代方案
mcp-llm-bridge是一个连接Model Context Protocol(MCP)服务器和OpenAI兼容LLM的桥接工具。它实现了MCP和OpenAI函数调用接口之间的双向协议转换,能够将MCP工具规范转换为OpenAI函数模式,支持云端模型和本地部署如Ollama等OpenAI API兼容端点。
ChatML是一个聊天标记语言,可以帮助ChatGPT API更好地理解和解析用户的聊天内容。该项目可以让开发者更简单地与ChatGPT API交互,并使聊天内容更易于理解和处理。
Nexa SDK是一款全面支持ONNX和GGML模型的工具包,具备文本生成、图像生成、视觉-语言模型(VLM)、自动语音识别(ASR)和文本到语音(TTS)功能,提供OpenAI兼容的API服务器,支持JSON模式调用函数和流媒体,配备用户友好的Streamlit UI,方便开发者使用和集成。
OpenAI兼容的API,用于TensorRT LLM triton backend,提供了与langchain集成的功能,支持高效推理和灵活后端配置。
基于LangChain Python和Next.js构建的生成式UI web应用,提供构建生成式用户界面的模板,支持使用Shadcn构建UI组件,集成了OpenAI API和LangSmith SDK。
FastGPT是一个基于大型语言模型的知识库问答系统,提供开箱即用的数据处理和模型调用能力,使用户能够快速构建和管理AI知识库,集成多种API,简化数据处理流程。
Betalgo OpenAI是一个Dotnet SDK,旨在将OpenAI的各种模型(如ChatGPT、Whisper、GPT-3和DALL·E)轻松集成到.NET应用程序中,支持多种功能,包括文本生成、语音识别和图像生成。