跳到正文
热点事件持续更新

研究在多个语言模型中发现叙事机制相关组件

1 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月12日,arXiv cs.CL 上的一项研究称,语言模型内部存在与叙事性相关的可解释组件。研究者在 GPT-2-Small、Gemma-2-2B 和 Llama-3.1-8B 三种模型中,识别出与叙事性相关的注意力头、MLP 神经元和稀疏自编码器特征。消融实验显示,移除这些组件会加大高叙事性文本的下一 token 预测损失,并降低生成文本的叙事性,在故事补全与叙事问答基准上影响最大;跨模型和跨语言的效果存在差异。作者认为,这些发现提供了叙事相关组件参与模型行为的因果证据,但这类组件的内部组织方式及其与叙事理论的关系仍是未解问题。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月12日
  1. arXiv cs.CL
    语言模型具有可解释的叙事机制

    研究在 GPT-2-Small、Gemma-2-2B 和 Llama-3.1-8B 中识别出与叙事性相关的注意力头、MLP 神经元和稀疏自编码器特征。消融这些组件会加大高叙事性文本的下一 token 预测损失,并降低生成文本的叙事性,在故事补全与叙事问答基准上影响最大,跨模型和语言的效果存在差异。这些发现提供了叙事相关组件参与模型行为的因果证据,但其内部组织及与叙事理论的关系仍是未解问题。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。