语音优先离线AI模块量化与基准论文

2026年10月7日，arXiv cs.AI 刊出《Offline AI Modules》一文。该工作面向非洲语言社区，提出语音优先的全离线 AI 部署方案，内容包括模块化离线架构、低成本硬件参考 BOM，以及面向 2–5B 参数指令微调模型的可复现量化基准流水线。论文称其首次完成端到端基准：在 Jetson Orin NX（TierB）与 Raspberry Pi 5（TierA）两类硬件上，对三个模型、四种量化格式进行评估，结果显示 Q4_K_M 在尺寸与质量之间的折中最佳。这是该事件目前唯一可查的报道，未提及与早先说法存在出入，报道亦未列出其他量化格式的具体评测数值。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。