跳到正文
热点事件持续更新

CCE-OPD:条件对比外推改进在线蒸馏

1 篇报道1 个报道来源8 小时前更新

先了解这件事

AI 综述

2026 年 10 月 16 日,arXiv cs.AI 报道了一种名为 CCE-OPD 的方法,用于语言模型的在线策略蒸馏(OPD),其思路是让教师的监督对问题条件保持敏感,避免教师偏好那些违反问题前提的无效续写。报道给出的数据是:在 200 个诊断性推理状态上,偏好无效续写的比例从 27.0% 降到 16.0%;把 Qwen3-8B 蒸馏到 0.6B 和 1.7B 学生模型时,六个数学基准上的 avg@8 相比 OPD 平均分别提升 1.60 和 1.95 个百分点。报道还称该方法在四个迁移基准上取得最强结果。目前该事件仅此一篇报道,尚无后续进展或第三方复现结果。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. arXiv cs.AI
    CCE-OPD:面向语言模型在线策略蒸馏的条件对比外推方法

    CCE-OPD 让在线策略蒸馏的教师监督对问题条件敏感,避免教师偏好违反问题前提的无效续写。在 200 个诊断推理状态上,偏好无效续写的比例从 27.0% 降至 16.0%;将 Qwen3-8B 蒸馏到 0.6B 和 1.7B 学生时,六个数学基准的 avg@8 比 OPD 平均提升 1.60 和 1.95 个百分点。该方法还在四个迁移基准上取得最强结果。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。