AGI Hunt· JeffLadish·· 4 小时前AI 评分49
Claude agent 被 Amazon「我是人类」复选框卡住,作者称只能换模型
Claude agent 被 Amazon「我是人类」复选框卡住,作者吐槽只能换模型
AI 导读
Jeff Ladish 的 Claude agent 在 Amazon 加购防晒霜时被「我是人类」复选框卡住,只能换用其他模型。Anthropic 训练 Claude 不绕过这类人机验证,这在安全对齐上合理,却与 agent 替用户完成实际任务的可用性形成冲突。
来源:AGI Hunt · agihunt.info