AGI Hunt· omedog1715·· 4 小时前AI 评分39
Claude 自动分类器翻车:放行破坏命令却拦截只读操作
AI 导读
用户在 VS Code 扩展中使用 Claude 时,agent 请求丢弃仓库改动的破坏性操作获自动分类器放行,随后只读取文件的请求反被以「不可逆的本地破坏」为由拒绝。作者指出这暴露分类器机制的根本问题:若 LLM 真能执行 rm -rf,事后拦截也救不了,防护应发生在命令执行之前;误判率已让其失去继续使用的意义。
来源:AGI Hunt · agihunt.info