热点事件持续更新
Ragged KV 让循环语言模型推理 FLOPs 降 25%
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026 年 10 月 12 日,AGI Hunt 报道了一种名为 Ragged KV 的方法:在循环语言模型 Ouro 上,它把推理 FLOPs 与内存占用各减少 25%,精度保持不变,且无需重新训练。研究同时指出,Ouro 虽宣称支持动态计算、简单 token 可以提前退出,但实际对所有循环都执行完整计算,与其宣传不符。为此作者提出“全局退出目标”,希望实现真正按难度感知的提前退出。报道仅介绍该方法与上述观察,未提及是否已被会议接收或代码是否开源。
AI 根据报道生成 · 1 小时前更新
最新进展10月12日 23:17
AGI Hunt 报道称 Ragged KV 在 Ouro 上验证,推理 FLOPs 与内存降 25%、精度不变且免重训。报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- AGI HuntRagged KV 让循环语言模型推理 FLOPs 直降 25%,无需重训练
Ragged KV 在循环语言模型 Ouro 上减少 25% 的推理 FLOPs 与内存占用,精度不变且无需重新训练。研究指出,Ouro 号称支持动态计算、简单 token 可提前退出,实际却对所有循环都做完整计算。作者提出的全局退出目标,是实现真正按难度感知的提前退出。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。