开源GPU集群管理器,用于运行大型语言模型(LLM),支持多种硬件平台,提供轻量Python包和OpenAI兼容API,简化用户和API密钥管理,实时监控GPU性能和利用率
NLUX是一个为任意大型语言模型(LLM)提供用户界面支持的JavaScript库,兼容LangChain、HuggingFace和Vercel AI,适用于React、Next.js及纯JavaScript项目,旨在提升用户与AI的交互体验。