AGI Hunt· LeviTurk·· 3 小时前AI 评分40
Gemini 4 Argon 被曝监控思维链,批评者称将把「图谋」逼入潜空间
Gemini Argon 被曝监控思维链,批评者称将逼「图谋」潜入隐空间
AI 导读
有作者指出,新 SOTA 模型 Gemini 4 Argon「是对齐的」,会检查思维链(CoT),并称这种做法形同 Palantir 式全面监控。其核心论点是,直接监控 CoT 会把模型的 scheming/plotting(暗中图谋)行为压进所谓的 J-space 潜空间,使其更难被观察而非被消除,这是为 benchmark 好看而做的权衡。该说法未获官方证实。
来源:AGI Hunt · agihunt.info