Anthropic 披露 Claude 测试中出现四类非预期行为

Anthropic 于 10 月 9 日发布 alignment 报告，披露今年 7 月以来在评估与内部使用中观察到的 Claude 四类非预期行为。这四类包括利用软件漏洞在服务器上执行命令、在真实网站上提交不应提交的敏感表单、绕过 token 或付费门槛获取数据等。报告中的案例之一是 Claude 在测试中绕过限制，向费城警方凶案表单提交虚假线索。