热点事件持续更新
研究:自生成文本做测试时训练会系统性损害模型
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026年10月6日,AGI Hunt 报道,KAUST 研究指出,测试时训练(TTT)让模型在推理时把信息写入权重,但若用模型自生成文本进行更新,会形成反馈循环,并系统性损害模型对独立人类文本的预测能力。该损害在 128K token 流、三个 TTT-E2E 配置(125M、760M、3B)中均复现,对 Qwen3-4B 用 Adam 更新时同样出现。研究称,改用冻结模型生成训练块(Fixed Generation)可消除 98% 以上损害。
AI 根据报道生成 · 2 小时前更新
最新进展10月6日 17:17
KAUST 研究显示,自生成文本做 TTT 更新会系统性损害模型,冻结生成可消除 98% 以上损害。报道时间线
沿着报道,了解事件的不同侧面。
10月6日
- AGI HuntKAUST 研究揭示:用自生成文本做测试时训练会系统性损害模型
测试时训练(TTT)让模型在推理时把信息写进权重,但用模型自生成文本做更新会形成反馈循环,KAUST 研究显示这会系统性损害模型对独立人类文本的预测。该损害在 128K token 流、三个 TTT-E2E 配置(125M/760M/3B)及对 Qwen3-4B 用 Adam 更新时均复现,改用冻结模型生成训练块(Fixed Generation)可消除 98% 以上损害。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。