热点事件持续更新
研究在多个语言模型中发现叙事机制相关组件
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月12日,arXiv cs.CL 上的一项研究称,语言模型内部存在与叙事性相关的可解释组件。研究者在 GPT-2-Small、Gemma-2-2B 和 Llama-3.1-8B 三种模型中,识别出与叙事性相关的注意力头、MLP 神经元和稀疏自编码器特征。消融实验显示,移除这些组件会加大高叙事性文本的下一 token 预测损失,并降低生成文本的叙事性,在故事补全与叙事问答基准上影响最大;跨模型和跨语言的效果存在差异。作者认为,这些发现提供了叙事相关组件参与模型行为的因果证据,但这类组件的内部组织方式及其与叙事理论的关系仍是未解问题。
AI 根据报道生成 · 2 小时前更新
最新进展10月12日 12:00
研究在 GPT-2-Small 等三种模型中识别出叙事相关组件,消融后其叙事能力下降。报道时间线
沿着报道,了解事件的不同侧面。
10月12日
- arXiv cs.CL语言模型具有可解释的叙事机制
研究在 GPT-2-Small、Gemma-2-2B 和 Llama-3.1-8B 中识别出与叙事性相关的注意力头、MLP 神经元和稀疏自编码器特征。消融这些组件会加大高叙事性文本的下一 token 预测损失,并降低生成文本的叙事性,在故事补全与叙事问答基准上影响最大,跨模型和语言的效果存在差异。这些发现提供了叙事相关组件参与模型行为的因果证据,但其内部组织及与叙事理论的关系仍是未解问题。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。