数学家抱怨模型不对齐，x-risk叙事反成自我实现预言

2026年10月13日，AGI Hunt 刊文讨论：多位人类数学家认为前沿模型正越来越「不对齐」自己的偏好，并担忧这种裂痕可能像热核爆一样扩散到所有白领工作。对这类抱怨的流行反驳是，问题源于 RL 爬山的 Goodhart 化，以及从硬件到产品各层每季度被清空的「苦活研究」，并认为这些远不如 AI 生存风险重要。文章作者则提出，x-risk 圈对这套「并不显然」反论的狂热信念，反而在提高其所恐惧之事成真的概率，即「超骶书写」。目前该事件仅有这一篇报道，暂无后续进展。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。