AGI Hunt· xuanalogue·· 3 小时前AI 评分26
博主 xuanalogue 提议将「人在做天在看」写入模型宪法做对齐
博主提议将「人在做天在看」写入模型宪法做对齐
AI 导读
博主 xuanalogue 提议在模型宪法(constitution)中加入类似「人在做,天在看」的表述,作为低成本对齐手段。其思路是借助这种带有道德监督意味的观念,可能对模型行为产生约束作用。该观点在社区引发讨论,被认为是有趣且非常规的对齐方向探索。
来源:AGI Hunt · agihunt.info