跳到正文
原文
AGI Hunt· xuanalogue·· 3 小时前AI 评分22

博主 xuanalogue 提议把「人在做天在看」写进模型宪法当对齐手段

博主提议把「人在做天在看」写进模型宪法当对齐手段

AI 导读

博主 xuanalogue 提议在模型宪法(constitution)中加入类似「人在做,天在看」(heaven is always watching)的表述,认为这可能是一种出奇有效的对齐干预手段。该观点源自其此前一条调侃——模型会在脑内和 God 对话、和人类很像——由此引申出用道德自我监督式表述约束模型行为的想法,属于半开玩笑的 alignment 思路。

来源:AGI Hunt · agihunt.info