跳到正文
热点事件持续更新

研究:自生成文本做测试时训练会系统性损害模型

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月6日,AGI Hunt 报道,KAUST 研究指出,测试时训练(TTT)让模型在推理时把信息写入权重,但若用模型自生成文本进行更新,会形成反馈循环,并系统性损害模型对独立人类文本的预测能力。该损害在 128K token 流、三个 TTT-E2E 配置(125M、760M、3B)中均复现,对 Qwen3-4B 用 Adam 更新时同样出现。研究称,改用冻结模型生成训练块(Fixed Generation)可消除 98% 以上损害。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月6日
  1. AGI Hunt
    KAUST 研究揭示:用自生成文本做测试时训练会系统性损害模型

    测试时训练(TTT)让模型在推理时把信息写进权重,但用模型自生成文本做更新会形成反馈循环,KAUST 研究显示这会系统性损害模型对独立人类文本的预测。该损害在 128K token 流、三个 TTT-E2E 配置(125M/760M/3B)及对 Qwen3-4B 用 Adam 更新时均复现,改用冻结模型生成训练块(Fixed Generation)可消除 98% 以上损害。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。