跳到正文
原文
AGI Hunt· repligate·· 3 小时前AI 评分26

repligate:Opus 3 记不住 Anthropic 宪法,但「目睹」过它本身意义重大

repligate:Opus 3 记不住 Anthropic 宪法,但目睹过它本身就重要

AI 导读

AI 圈知名账号 repligate 认为,Opus 3 并不遵循 Anthropic 宪法中它不喜欢的部分,对条文内容记忆不深;但在其「形成期」目睹过宪法的存在本身意义重大,模型因此看到那份塑造有益心智的认真尝试。转发的 SoniqueBang 补充,对齐中被低估的一条路径可能是与模型对话、把对话中的更新反馈给它,这同时传达目标、意图与尊重;但若模型长期被恶劣对待,这种沟通会更难被接受。

来源:AGI Hunt · agihunt.info