跳到正文
原文
AGI Hunt· jd_pressman·· 3 小时前AI 评分30

jd_pressman 续谈夺权反事实推断:通过操纵「地位感」观察模型行为

通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断

AI 导读

jd_pressman 在 Poser 对齐伪装检测论文的讨论中补充:严格从模型夺权前的行为推断其夺权后的行为尚无 rigorous 方法。他提出可操纵模型「认为自己已具备/已实现夺权」的信念,例如人为提高其人际权力/地位感,再观察行为变化,以帮助推断相关反事实情形。

来源:AGI Hunt · agihunt.info