从内部结构识别大模型忠实自报告的机制特征

2026年10月7日，arXiv cs.CL 刊出研究《从内部识别大语言模型的内省：忠实自报告的机制特征》。该研究提出，大模型的忠实自我报告可从网络内部结构识别：先用低秩适配器训练模型按虚构角色的隐含线性偏好做决策，训练后无需显式自报告监督，模型即涌现出准确的自报告。权重消融与冻结层实验显示，偏好表征随训练前移到更早层。研究还用 attribution patching 测得，忠实模型在决策任务与自报告任务之间的归因相似度显著更高。论文发表于 COLM 2026。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。