PeriFlow是一个创新的生成式AI模型服务引擎,支持大型语言模型(LLM)。它以低成本实现了70~90%的GPU节省,同时提供两种部署选项:PeriFlow容器和PeriFlow云。
Langfuse是一个旨在帮助开发者构建和管理AI应用程序的基础设施平台,提供了丰富的功能和工具,以简化AI模型的集成和部署。其目标是让AI开发变得更简单、高效,并降低技术门槛。
Medusa使用多个解码头部,使大型语言模型的生成速度提升2倍。与传统的小模型生成选项加大模型验证的方式相比,Medusa无需额外的模型,可以与大模型同时训练和使用,特别适合分布式部署场景。
该项目旨在提供快速体验,允许用户一键部署多种Github开源AI项目,简化了部署过程,减少了用户的配置时间,并提供易于使用的界面和文档,同时定期更新以添加新的项目和功能。
一个集记单词与打字练习为一体的工具,内置多种词库,通过键盘输入帮助用户在背诵单词的同时练习打字。
Credal是一个为企业提供安全利用AI的平台,允许用户在确保数据保护的前提下使用他们喜爱的AI应用。Credal的API、安全聊天界面和Slack机器人预先集成了数据,并强制执行访问政策、敏感数据掩码和可接受使用政策。该平台为企业安全地采用AI提供了安全环境。
通过人工智能将表情符号转化为艺术图片,包括完整的前端和后端代码,支持本地和云端部署,完全基于开源,可用于商业用途
DaDaBIK 是一个低代码平台,允许用户从现有数据库、Excel 文件或从零开始快速构建内部工具、商业应用、管理门户或个人数据库,无需编码。用户还可以根据需要使用自定义的 JavaScript 和 PHP 进行增强。该工具可自托管,易于部署到任何地方。
Yolov7 Flask是一个美观的Flask Web API,支持Yolov7及自定义模型的推理,用户可以方便地上传图片并进行实时物体检测,适用于本地和云环境的部署。
StreamDeploy是一个专为AI和大语言模型(LLM)应用设计的部署平台,提供便捷的容器化和云部署解决方案,支持将应用部署到云端和本地环境。
Upsonic是为企业级任务和垂直AI Agent提供的强大任务导向型AI框架,支持多种大语言模型并具备高可扩展性,能够无缝部署于云平台或本地环境,适合处理复杂的自动化任务。
Clear.ml 是一个开源的连续机器学习平台,专注于促进 AI/ML 模型的开发、集成、部署和扩展,支持从数据管理到模型训练再到部署的整个生命周期。
Lakera是一个专为保护组织免受生成AI应用相关威胁而设计的AI安全平台,提供多种产品,如Lakera Guard、Lakera Red和Lakera PII Detection,旨在增强AI系统的安全性。
PromptLeo是一个生成式AI平台,通过用户友好的界面简化了创建、测试和更改提示的过程。它为团队提供了一个先进的提示工程平台,允许他们实时管理和调整提示。无论是自托管还是云端,PromptLeo都能满足企业的需求,提供可靠的服务和支持。
sherpa-ncnn 是一个使用下一代 Kaldi 和 ncnn 构建的实时语音识别系统,支持多种语言和方言,具备低延迟性能,适合各种实时应用场景。它提供灵活的模型部署选项,并兼容 Kaldi 的最新技术,能够满足开发者的多样化需求。
HQTrack 是一个高效的跟踪系统,能够准确地跟踪多种类型的目标,适用于实时视频处理,支持灵活的集成与使用。
Flyte是一个无限可扩展且灵活的工作流编排平台,能够无缝整合数据、机器学习和分析堆栈,帮助用户轻松构建生产级的数据和机器学习工作流。
Embedditor 是一款先进的 AI 工具,旨在通过嵌入优化提升向量搜索的能力,类似于嵌入领域的 Microsoft Word。该工具为专业人士和开发者量身定制,提供强大的元数据和令牌增强功能,帮助用户提升大型语言模型(LLM)应用的效率和准确性。