跳到正文
原文
arXiv cs.CL· Taichi Nishimura·· 2 天前AI 评分41

I-Parakeet:在手机 NPU 上运行的纯整数 Conformer ASR

I-Parakeet: Integer-Only Conformer ASR on Mobile NPU

AI 导读

I-Parakeet 将 NVIDIA Parakeet-CTC(0.6B 参数)改为纯整数实现,可在智能手机 NPU 上运行,无需浮点算子或 CPU 回退。关键改动包括整数化相对位置自注意力、minimax 优化的 Swish 近似,以及 BatchNorm 输出的 INT16 网格和重尾激活的百分位校准。

来源:arXiv cs.CL · arxiv.org