AGI Hunt· PyTorch·· 4 小时前AI 评分42
PyTorch 实测:ExecuTorch + Arm SME2 让端侧流式语音识别提速 2.12 倍
PyTorch 实测:ExecuTorch+Arm SME2 让端侧流式语音识别提速 2.12 倍
AI 导读
PyTorch 官方博客发布 Arm 工程师案例研究:NVIDIA Nemotron 3.5 流式 ASR 模型经 ExecuTorch 移植,结合 Arm SME2 矩阵指令、FP16 与 QC8W 按通道权重量化,在 Pixel 11 上实现最高 2.12 倍处理加速。
来源:AGI Hunt · agihunt.info