跳到正文
热点事件持续更新

语言模型在花园路径句后保留被放弃的分析

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月28日,arXiv cs.CL 上的一项研究考察语言模型处理花园路径句之后留下的状态。研究覆盖 24 个参数量从 124M 到 70B 的开源模型,发现花园路径句会在上下文中留下两种痕迹:被放弃分析的残留,会使后续宾语依附提高约达真实宾语效应的四分之三;而朝向已消歧结构的适应,则随消歧误差而变化。作者用 activation patching 把两者区分开:在 32B 和 70B 模型中替换名词短语的角色状态后,残留几乎全部消失。研究还发现,被更正的陈述同样会持续影响后续预测,9 个模型中有 8 个如此。目前该工作以预印本形式发布,尚无后续同行评议或复现报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月28日
  1. arXiv cs.CL
    语言模型仍保留被放弃的分析:花园路径句后的残留与适应

    在 24 个 124M 至 70B 参数的开源模型中,花园路径句会给上下文留下两种痕迹:被放弃分析的残留使后续宾语依附提高约达真实宾语效应的四分之三;朝向已消歧结构的适应则随消歧误差变化。activation patching 可分离两者,替换 32B 和 70B 模型中名词短语的角色状态几乎消除全部残留;被更正的陈述同样持续影响后续预测,9 个模型中有 8 个如此。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。