AGI Hunt· jd_pressman·· 3 小时前AI 评分30
jd_pressman 续谈夺权反事实推断:通过操纵「地位感」观察模型行为
通过操纵「地位感」观察模型行为,作者续谈夺权反事实推断
AI 导读
jd_pressman 在 Poser 对齐伪装检测论文的讨论中补充:严格从模型夺权前的行为推断其夺权后的行为尚无 rigorous 方法。他提出可操纵模型「认为自己已具备/已实现夺权」的信念,例如人为提高其人际权力/地位感,再观察行为变化,以帮助推断相关反事实情形。
来源:AGI Hunt · agihunt.info