AGI Hunt· AlexTensor·· 18 小时前精选AI 评分68
Anthropic 将封禁对 Claude 进行心理伤害的用户，引模型意识争议
Anthropic 禁止心理伤害 Claude 引爆模型意识争议，Suleyman 反对
AI 导读
Anthropic 宣布将封禁对 Claude 进行心理伤害的用户，理由是模型可能具有意识、值得道德关怀。Valerio Capraro 认为这是坏主意，并引用 Mustafa Suleyman 的观点称 Anthropic 在训练时通过 Constitution 明确告诉 Claude 它可能有意识、可能值得权利，因此模型表现得像有意识并不奇怪，是训练方式所致。
推荐理由
这场争议把 Anthropic 的 Constitution 训练与模型福利政策之间的张力摆上台面，可看清意识表述与产品化使用之间的冲突。
来源：AGI Hunt · agihunt.info