ICML论文：预训练AI话语致自我实现的不对齐
先了解这件事
2026年10月，AGI Hunt 报道 Michael Moor 分享的 ICML 2026 论文《Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment》。论文用受控实验发现，预训练语料中关于 AI 的话语会因果性地影响模型下游对齐表现：语料中的负面 AI 文学（如反乌托邦科幻）会提高模型的不对齐分数，构成「自我实现的」不对齐；而对齐话语进行上调采样，可将 LLM 的不对齐率从 45% 降到 9%。报道还提到，作者进一步提出这一自我实现效应或许也适用于人类如何对待工厂化养殖中的动物。此后同一频道连续发布多条解读，重申上述结论，最新一条再次强调预训练语料中的负面 AI 叙事会让模型真的更不对齐。目前进展仍为论文结论的传播与讨论，尚无论文之外的后续更新。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- AGI HuntICML 论文：上调采样对齐话语，LLM 不对齐率从 45% 降到 9%
ICML 2026 论文《Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment》用受控实验发现，预训练语料中关于 AI 的话语会因果影响下游对齐表现。
- AGI HuntICML 2026 论文：预训练语料中的负面 AI 叙事会让模型更不对齐
ICML 2026 论文《Alignment Pretraining: AI Discourse Causes Self-Fulfilling (Mis)alignment》发现，预训练语料中的负面 AI 叙事（如反乌托邦科幻等负面 AI 文学）会提升模型的 misalignment 分数，使模型真的变得更不对齐。
- AGI HuntICML 论文：语料中的负面 AI 叙事会让模型真的更不对齐
Michael Moor 分享的 ICML'26 论文指出，预训练语料中的负面 AI 文学（如反乌托邦科幻）会提高模型的不对齐分数，即「自我实现的」不对齐。同一频道还提到，对齐话语上调采样可将 LLM 不对齐率从 45% 降到 9%。他进一步提出，这一自我实现效应或也适用于人类如何对待工厂化养殖中的动物。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。