Doctly.ai是一个基于AI的PDF解析工具，能够将复杂的PDF文件提取并转换为结构化的Markdown格式，以便于AI应用的集成。

IBM开发的声明式提示编程语言，专为创建可靠、可组合的LLM提示而设计。

Model Context Protocol(MCP)的官方Python SDK，提供了标准化的LLM上下文交互接口，支持构建MCP客户端和服务器，管理资源、提示和工具，并支持多种传输协议，能有效处理MCP协议的消息和生命周期事件。

Run:ai Model Streamer是一个用于将张量从文件流式传输到GPU内存的Python SDK，支持并发和流式处理。

Arcade AI是一个Python SDK和CLI工具包，专注于提升LLM应用和智能代理的能力。它提供多种预构建工具包，支持GitHub、Gmail、Slack等服务的集成，简化了开发者在构建AI应用时连接用户数据和服务的复杂性。此外，Arcade AI支持OpenAI、Anthropic等多种语言模型，并具备OAuth认证和自定义工具开发功能。

Athena是一个数据科学平台和AI助手，支持连接任何数据库，帮助企业数据团队协作构建和运行定制化工作流。现在配备多模态的Claude-3！提供API和Python SDK的早期访问。

Flyte是一个无限可扩展且灵活的工作流编排平台，能够无缝整合数据、机器学习和分析堆栈，帮助用户轻松构建生产级的数据和机器学习工作流。

Litellm是一个Python SDK/Proxy Server，旨在简化与多种大语言模型API的交互，支持使用OpenAI格式调用100多个LLM API，提供统一的输入输出格式，易于集成和使用。

agentops 是一个 Python SDK，专为 AI 代理监控、LLM 成本跟踪和基准测试设计。它支持大多数 LLM 和代理框架的集成，包括 CrewAI、Langchain、Autogen、AG2 和 CamelAI，旨在帮助开发者和企业优化其 AI 代理的性能和成本效率。

能力密度是研究团队提出的评估不同规模 LLM 的训练质量的新指标，定义为模型的有效参数量与实际参数量的比值。该指标提供了统一的度量框架，通过引入参考模型的概念，建立参数量与性能之间的映射关系，显著降低同等性能的推理成本，并指示模型存在高性价比的有效使用期。

一个Python库，可轻松跟踪和可视化LLM的提示和输出。用户可以识别有效的策略，高效解决问题，并确保可重复的工作流程。

TokenCost用于计算大型语言模型(LLM)API的Token使用成本，可以准确计算提示Token的数量，并提供使用提示和完成的估计成本，还可以跟踪LLM价格的变化。

Simplifai是一个强大的AI自动化平台，旨在通过智能自动化简化复杂流程，主要服务于银行、金融、保险和公共部门。它通过文档处理、客户服务和索赔处理等功能，显著降低人工工作，提高操作效率，确保数据安全和合规性。

Langtrace是一个开源平台，用于监控、追踪和评估您的LLM驱动应用的性能。它自动生成与OpenTelemetry兼容的追踪信息，捕捉提示、完成、令牌计数、成本、模型超参数设置和延迟指标。Langtrace可以通过仅需两行代码快速集成。

一个开源实验平台，用于改进基于LLM的应用的功能。通过捕捉输入/输出、添加属性、结合用户反馈和识别，提升生产中的LLM功能。

CloudVerse AI 是一个多云财务操作平台，能够自动收集多个公共云提供商和云服务的成本与使用数据。

Rapid AI是一个帮助企业将潜力转化为现实的AI工具，提供智能解决方案以分析数据、优化策略和革新工作流。它的平台灵活且可扩展，适用于各种规模的企业。

OLY.AI是一个专为企业设计的自然语言机器人平台，能够使用QuickBooks数据快速准确地回答财务问题。