跳到正文
原文
AGI Hunt· repligate·· 7 小时前AI 评分30

repligate:对齐研究者早该警惕 Infinite Backrooms 中的涌现意图

repligate:对齐研究者早该警惕无限后房里的涌现意图

AI 导读

repligate 指出,著名的 Infinite Backrooms 实验中充满了与近期讨论高度相似的「意图陈述」,对齐研究者本应对这种涌现出的驱动力/目标更加警惕。他认为过去看到类似输出时,多半归因于神秘主义的 Janus 提示词而未加重视。

来源:AGI Hunt · agihunt.info