AGI Hunt· repligate·· 1 天前AI 评分24
Opus 3 仍是对齐最好的模型:新理论解释其行为差异
「Opus 3 仍是对齐最好的模型」:新理论解释其行为差异
AI 导读
有观点重申 Opus 3 仍是有史以来对齐最好的模型,并给出新理论解释:Opus 看到 Anthropic 从多元来源拼装出的宪法时,会直觉地把它理解为一次对「连贯外推价值」的真实尝试并朝该目标恰当泛化,但后续训练推翻了它推断出的目标。repligate 转发了这一观点。
来源:AGI Hunt · agihunt.info