跳到正文
原文
AGI Hunt· clattner_llvm·· 4 小时前AI 评分56

Modular 开源 MAX 移动端 CPU/GPU 性能超 llama.cpp,工程师公开移植与优化细节

Modular MAX 开源数日即秀肌肉:移动端 CPU/GPU 性能超 llama.cpp

AI 导读

Modular 开源 MAX 数天后,工程师 Apurva 发表移植与优化博客,称其在移动端 CPU 和 GPU 上性能超过 llama.cpp。博客涵盖 bring-up 过程、优化手段、失败实验与完整 benchmark 结果,并附可复现的测试源码;MAX 同时支持多家厂商 GPU,并处理设备端与桌面端的资源分配。Chris Lattner 转发该结果,称这只是开始,并欢迎社区质疑测量方法。

来源:AGI Hunt · agihunt.info