如何用 LiteRT 与 Gemma 在树莓派上运行端侧 AI

Google 在开发者博客给出在树莓派 5 上用 LiteRT 与 Gemma 运行端侧 AI 的部署指南。据文中数据，Gemma 4 E2B 在 LiteRT-LM 下达到 99 tokens/sec prefill 与 9 tokens/sec decode，峰值内存 1432 MB。