女子对 Claude 发威胁言论被人工审核上报，遭重罪起诉

佛罗里达一名女子在与 Claude 对话时扬言袭击警长办公室，Claude 自动标记了该内容，Anthropic 的人工审核员评估后认为威胁可信并通知警方，该女子现已被控重罪。XFreeze 评论认为，用户私密内容被人工审阅并上报的机制听起来是个不太好的先例，引发对模型安全上报流程与用户隐私边界的讨论。