跳到正文
热点事件持续更新

苹果发布 KV-Lingo:跨模型切换提速最高 29 倍

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026 年 10 月 2 日,AGI Hunt 报道了苹果的一篇新论文 KV-Lingo。该工作训练一个线性翻译器,把源模型的 KV cache 直接映射到目标模型的表示空间,从而在跨模型切换 LLM 时免去重新 prefill 的开销。报道给出的实验数据显示,在 H100 上,同构的 Qwen3 模型对之间切换时,若前缀为 2k token,切换速度比重新 prefill 快 4.8–5.6 倍;前缀扩展到 32k token 时,提速达到 12–29 倍。报道同时提到,切换之后的解码过程仍保持原生速度,未因 KV cache 的跨模型映射而变慢。目前该事件仅有这一篇报道,尚无其他来源对论文细节、实验设置或复现结果作出补充,也没有出现与此前报道相矛盾的数字或说法。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月2日
  1. AGI Hunt
    苹果 KV-Lingo 论文:跨模型切换 LLM 提速最高 29 倍

    苹果论文 KV-Lingo 训练一个线性翻译器,把源模型的 KV cache 直接映射到目标模型的表示空间,跨模型切换 LLM 时免去重新 prefill。在 H100 上,同构 Qwen3 模型对在 2k token 前缀下切换比重新 prefill 快 4.8–5.6 倍,32k token 下快 12–29 倍,后续解码保持原生速度。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。