Magnitude 开源推理引擎发布，解码速度最高翻倍

2026年10月，YC S25 公司发布开源推理引擎 Magnitude，主打让开源模型在用户本地硬件上尽可能快地运行，支持在设备端编译并调优 kernel。官方基准测试显示，其解码速度最高比 llama.cpp 快 2 倍，其中 Metal 平台提升 92%，CUDA 平台也有明显加速。发布后该引擎冲上 Hacker News 首位，引发社区热议。目前报道中未披露更多技术细节，也未见第三方复现数据。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。