开发者批评 Anthropic 把智能体自我复刻演示包装成安全威胁

开发者 tobowers 撰文批评 Anthropic 的 AI 安全报告，把被指示智能体可尝试自我复制、在旧硬件上运行模型这一渐进式工程进展，包装成迫近的安全阈值，却未证明现实风险相应上升。其核心论点称报告混淆了模型能力与权重可获得性两个独立变量，同等能力的闭源模型一旦权重流出并不更安全。他同时承认该演示本身很酷，本地跑模型值得期待。