跳到正文
原文
AGI Hunt· RUC·· 3 小时前AI 评分41

RUC 提出 STAIR:仅训 1.2 万参数,历史上下文让多轮推理准确率提升 11.67 点

RUC 提出 STAIR:仅训 1.2 万参数,历史上下文让多轮推理准确率提升 11.67 点

AI 导读

中国人民大学团队提出 STAIR(Stale-Token Attention for Inter-query Reuse),把早期响应生成的 key/value 存入固定 bank,冻结基座模型、仅训练 12,288 个参数,在三个 Qwen 模型和四个 benchmark 上使带历史的后续轮次平均准确率最高提升 11.67 个百分点。

来源:AGI Hunt · agihunt.info