Kyanite是一个用Rust开发的神经网络推理库,支持CPU和Nvidia GPU,采用模块化设计,能够清晰地分割各个推理阶段,提供高效的内存管理和计算性能。
Kyanite的特点:
1. 支持运行ONNX文件
2. 可在CPU和Nvidia GPU上运行,使用cuda/cudnn/cublas
3. 模块化设计,易于扩展和维护
4. 高效的内存管理和计算性能
Kyanite的功能:
1. 加载和执行ONNX模型进行推理
2. 在不同硬件上进行优化和测试
3. 集成到Rust项目中以进行深度学习应用
4. 使用自定义模块扩展推理功能
相关推荐
暂无评论...