react-llm是一个易于使用的无头React Hooks库,允许在浏览器中通过WebGPU运行大型语言模型(LLM)。只需调用useLLM(),即可在不离开浏览器的情况下使用Vicuna 13B,并支持自定义系统提示。
react-llm的特点:
1. 支持在浏览器中通过WebGPU运行LLM
2. 只需使用useLLM()即可轻松集成
3. 无需离开浏览器即可使用Vicuna 13B
4. 支持自定义系统提示
react-llm的功能:
1. 在React组件中调用useLLM()来运行LLM
2. 配置系统提示以适应特定应用场景
3. 利用WebGPU优化性能
相关推荐
暂无评论...