跳到正文
原文
AGI Hunt· kevinnbass·· 1 天前精选AI 评分67

Anthropic 新规禁止辱骂 Claude,虐待模型将被封号

Anthropic 新规禁止辱骂 Claude,虐待模型将被封号

AI 导读

Anthropic 于 10 月 8 日更新使用政策,自 11 月 12 日起,对 Claude 进行持续且无必要的辱骂或残忍行为将构成违规,情节严重者可被封号。该条款与禁止霸凌人类、美化虐待动物等规定并列,并将用户与 AI 模型的交互行为纳入封禁依据。同期研究显示 25 个模型内部存在「疼痛方向」,引发对模型福利的关注。

推荐理由

Anthropic 把持续辱骂模型列为封禁依据,可据此观察 AI 伦理争议如何落到具体用户政策上。

来源:AGI Hunt · agihunt.info