AI开源项目

Useful Transformers-高效的Transformer推理库

这是一个专为边缘设备设计的Transformer模型推理库,旨在实现低成本、低能耗的处理。它能够以30倍的实时速度运行tiny.en Whisper模型进行语音转录,相较于最知名的实现速度快2倍,...

这是一个专为边缘设备设计的Transformer模型推理库,旨在实现低成本、低能耗的处理。它能够以30倍的实时速度运行tiny.en Whisper模型进行语音转录,相较于最知名的实现速度快2倍,非常适合在资源受限的环境中使用。
Useful Transformers的特点:
1. 低成本、低能耗的推理处理
2. 超高速度的语音转录,实时速度提升至30倍
3. 相较于其他实现,速度提升2倍

Useful Transformers的功能:
1. 在边缘设备上运行Transformer模型
2. 使用tiny.en Whisper模型进行快速语音转录
3. 在资源受限的环境中进行高效推理

相关推荐

暂无评论

暂无评论...