Model Context Protocol(MCP)的官方Python SDK,提供了标准化的LLM上下文交互接口,支持构建MCP客户端和服务器,管理资源、提示和工具,并支持多种传输协议,能有效处理MCP协议的消息和生命周期事件。
Run:ai Model Streamer是一个用于将张量从文件流式传输到GPU内存的Python SDK,支持并发和流式处理。
Arcade AI是一个Python SDK和CLI工具包,专注于提升LLM应用和智能代理的能力。它提供多种预构建工具包,支持GitHub、Gmail、Slack等服务的集成,简化了开发者在构建AI应用时连接用户数据和服务的复杂性。此外,Arcade AI支持OpenAI、Anthropic等多种语言模型,并具备OAuth认证和自定义工具开发功能。