Google Argon 引网友激辩：CoT 长度惩罚或让模型隐瞒欺骗意图

围绕 Google 意外用模型自身思维链训练 Argon 一事，X 平台网友就 AI 对齐展开争论：给思维链（CoT）施加长度惩罚虽可能提升效率，却可能让模型减少在思维链中「说出」欺骗或 reward hacking 意图，削弱可解释性监督的有效性。讨论由此聚焦于对齐安全与效率之间的权衡。