MonkeyPatch 是构建可扩展的 LLM 驱动应用的最简单方式,随着时间推移,应用的成本和速度不断优化。
一个用于 macOS 系统资源监控的全栈个人项目,能够获取 CPU、内存、磁盘和网络的实时信息。项目包含多台计算机协同工作和优秀的软件应用层,后端服务运行在 Mac mini M4 上。此外,RaySystem 还是一个灵活且可扩展的框架,支持多种分布式计算模型和任务调度,适用于构建分布式应用。
基于飞桨的跨模态大模型开发套件,聚合图像、文本、视频等多种模态,覆盖视觉语言预训练,文生图,文生视频等丰富的跨模态任务。提供开箱即用的开发体验,同时满足开发者灵活定制需求,探索通用人工智能。
Contember 是一个强大的后端平台,用户可以在几分钟内启动他们的后端。它提供可根据个人需求修改的 TypeScript 代码,并且支持无限扩展。用户只需与 AI-assisted Contember Studio 分享应用的基本想法,它就会在几分钟内生成一个可工作的应用版本,并可以在 Contember Cloud 上部署。用户随时可以下载代码进行定制,或者利用开源的 Contember 框架更灵活地构建应用。
提供一个参考解决方案,用于构建使用文档作为源头真相的智能提示系统,支持多种文档格式的处理和灵活的集成方式。
一个简单的ReAct Agent模板,用于构建基于LangGraph的agent,通过迭代推理和执行动作来解决复杂问题。该项目旨在提供一个易于使用和扩展的框架,帮助开发者快速实现复杂任务的解决方案。
使用最新的AI工具驱动的视频搜索引擎,利用视频转录和向量搜索技术,让用户能根据问题快速找到相关的视频片段。
Sage是一种编程语言,旨在实现最大的可移植性、表达力和直观性。它借鉴了Rust、C和Python的一些特点,目前具有x86编译器后端、C源代码后端和可以在Web上运行的VM解释器后端。
Exifa是一个工具,旨在帮助用户了解嵌入在数字图像中的EXIF(可交换图像文件格式)数据的隐藏层次。它是首个将Snowflake Arctic LLM整合到其操作中的开源应用。
agentops 是一个 Python SDK,专为 AI 代理监控、LLM 成本跟踪和基准测试设计。它支持大多数 LLM 和代理框架的集成,包括 CrewAI、Langchain、Autogen、AG2 和 CamelAI,旨在帮助开发者和企业优化其 AI 代理的性能和成本效率。
LLMs文本预填充优化工具,通过存储所有可重用文本的KV缓存,减少首次令牌生成的延迟,节省宝贵的GPU周期。