AGI Hunt· RUC·· 3 小时前AI 评分41
RUC 提出 STAIR:仅训 1.2 万参数,历史上下文让多轮推理准确率提升 11.67 点
RUC 提出 STAIR:仅训 1.2 万参数,历史上下文让多轮推理准确率提升 11.67 点
AI 导读
中国人民大学团队提出 STAIR(Stale-Token Attention for Inter-query Reuse),把早期响应生成的 key/value 存入固定 bank,冻结基座模型、仅训练 12,288 个参数,在三个 Qwen 模型和四个 benchmark 上使带历史的后续轮次平均准确率最高提升 11.67 个百分点。
来源:AGI Hunt · agihunt.info