跳到正文
热点事件持续更新

Ragged KV 让循环语言模型推理 FLOPs 降 25%

1 篇报道1 个报道来源1 小时前更新

先了解这件事

AI 综述

2026 年 10 月 12 日,AGI Hunt 报道了一种名为 Ragged KV 的方法:在循环语言模型 Ouro 上,它把推理 FLOPs 与内存占用各减少 25%,精度保持不变,且无需重新训练。研究同时指出,Ouro 虽宣称支持动态计算、简单 token 可以提前退出,但实际对所有循环都执行完整计算,与其宣传不符。为此作者提出“全局退出目标”,希望实现真正按难度感知的提前退出。报道仅介绍该方法与上述观察,未提及是否已被会议接收或代码是否开源。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. AGI Hunt
    Ragged KV 让循环语言模型推理 FLOPs 直降 25%,无需重训练

    Ragged KV 在循环语言模型 Ouro 上减少 25% 的推理 FLOPs 与内存占用,精度不变且无需重新训练。研究指出,Ouro 号称支持动态计算、简单 token 可提前退出,实际却对所有循环都做完整计算。作者提出的全局退出目标,是实现真正按难度感知的提前退出。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。