AGI Hunt· hbouammar·· 3 小时前AI 评分41
仅调 llama.cpp 参数:Qwen3-4B 在 2019 年手机上提速 1.34 倍
仅调 llama.cpp 参数:Qwen3-4B 在 2019 年手机上提速 1.34 倍
AI 导读
开发者 eppyephard 在 2019 年的老款手机上完全离线运行 Qwen3-4B,仅调整 llama.cpp 设置就让回复速度提升 1.34 倍,长输出场景提速 2.2 倍。输出结果与原配置完全一致,零改模型、零精度损失。该做法对端侧 LLM 部署有参考价值。
来源:AGI Hunt · agihunt.info