热点事件持续更新
爱丁堡大学等提出策略多样性采样提升自训练pass@k
1 篇报道1 个报道来源4 小时前更新
先了解这件事
AI 综述
2026年10月4日,AGI Hunt报道,爱丁堡大学等研究者针对自训练中只保留独立采样后正确答案(RFT)的做法提出替代方案:先让模型给出多种解题思路,再按每条思路各写一份解答,以保持策略多样性、提升pass@k。报道称,在64次采样最多只能解出2次的前沿难题上,IID采样易发生模式坍缩,Qwen3-4B-Instruct每题4个样本时held-out pass@64仅5.2;即使改用64个样本、温度1.5,也只到7.9。报道未给出该方法相较基线的具体提升数值与更完整的实验设置。
AI 根据报道生成 · 4 小时前更新
最新进展10月4日 23:53
爱丁堡大学等提出先采样多种思路再各写解答,以缓解自训练模式坍缩。报道时间线
沿着报道,了解事件的不同侧面。
10月4日
- AGI Hunt爱丁堡大学等:自训练别只留正确答案,策略多样性采样提升 pass@k
爱丁堡大学等研究者提出,自训练数据应先让模型给出多种解题思路、再按每条思路各写一份解答,而非只保留独立采样后的正确答案(RFT)。在 64 次最多解出 2 次的前沿难题上 IID 采样易模式坍缩,Qwen3-4B-Instruct 每题 4 样本时 held-out pass@64 仅 5.2,64 样本、温度 1.5 也只到 7.9。
本事件热度走势
当前热度 9·可比范围峰值 10(10月5日 01:00)·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。