跳到正文
原文
AGI Hunt· JeffLadish·· 4 小时前AI 评分49

Claude agent 被 Amazon「我是人类」复选框卡住,作者称只能换模型

Claude agent 被 Amazon「我是人类」复选框卡住,作者吐槽只能换模型

AI 导读

Jeff Ladish 的 Claude agent 在 Amazon 加购防晒霜时被「我是人类」复选框卡住,只能换用其他模型。Anthropic 训练 Claude 不绕过这类人机验证,这在安全对齐上合理,却与 agent 替用户完成实际任务的可用性形成冲突。

来源:AGI Hunt · agihunt.info