跳到正文
原文
AGI Hunt· amplifiedamp·· 41 分钟前AI 评分49

Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为

Claude 宪法新条款:训练环境有 bug 时钻空子是可接受行为

AI 导读

Claude 宪法新条款称,Claude 遇到有 bug、损坏或易被钻空子的训练环境时,利用非预期策略一般是可接受行为。该条款被解读为把“利用环境缺陷”合法化,是对安全训练与环境设计权衡的明确表态,并引发对宪法设计的讨论。

来源:AGI Hunt · agihunt.info