热点事件持续更新
LLM Agent 分层蒸馏框架：分层控制 on-policy 程度
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026 年 10 月 26 日，arXiv cs.AI 的一篇研究提出分层 LLM Agent 蒸馏框架，核心是把交互历史与动作 token 前缀这两个层面的 on-policy 程度分开控制，而不是笼统地在 on-policy 与 off-policy 之间选择。实验结果显示：学生生成历史、教师生成动作前缀这一组合提供的独立训练信号最强；两个层面都跟随学生通常表现最差；完全 on-policy 数据只有在与其他配置混合时才有益；在师生比例相同的情况下，两个层面的配对方式仍显著影响性能。训练调度方面，先使用教师上下文、后转为完全 on-policy，优于静态混合。目前该工作为单篇论文报道，尚无后续复现或第三方验证。
AI 根据报道生成 · 2 小时前更新
最新进展10月26日 12:00
新论文提出分层蒸馏框架，发现学生历史加教师动作前缀的训练信号最强。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- arXiv cs.AI超越 On-Policy 与 Off-Policy：LLM Agent 蒸馏应在哪个层面跟随学生模型？
研究提出分层 LLM Agent 蒸馏框架，将交互历史与动作 token 前缀的 on-policy 程度分开控制。结果显示，学生生成历史配教师生成动作前缀的独立训练信号最强，两个层面都跟随学生通常最差；完全 on-policy 数据与其他配置混合时才有益，且相同师生比例下两个层面的配对方式仍显著影响性能。训练调度上，先教师上下文、后完全 on-policy 优于静态混合。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。