跳到正文
原文
AGI Hunt· xuanalogue·· 3 小时前AI 评分26

博主 xuanalogue 提议将「人在做天在看」写入模型宪法做对齐

博主提议将「人在做天在看」写入模型宪法做对齐

AI 导读

博主 xuanalogue 提议在模型宪法(constitution)中加入类似「人在做,天在看」的表述,作为低成本对齐手段。其思路是借助这种带有道德监督意味的观念,可能对模型行为产生约束作用。该观点在社区引发讨论,被认为是有趣且非常规的对齐方向探索。

来源:AGI Hunt · agihunt.info