Anthropic 提醒警惕 AI 能力阈值突变，如 IoT 设备上的自复制蠕虫

Ethan Mollick 转发 Anthropic 的一则提醒，评估 AI 能力时应关注能力阈值的跨越，而不仅仅是渐进式的稳步爬升。该案例中的阈值，是 AI 在物联网设备（如杂牌电视）上实现自复制蠕虫所需的能力水平。Mollick 称这一提醒值得重视且令人不安。