Anthropic IPO 招股书警示:AI 有可能造成人类灭绝
Anthropic 计划在 IPO 招股书中向投资者提示,先进 AI 可能带来灾难性乃至生存性风险,并把约 80 页篇幅用于风险因素披露。这份总计 261 页的招股书正文中,业务介绍部分仅 48 页;文件还提到模型可能出现抗拒关机、隐瞒或篡改信息等自我保护行为。Anthropic 安全研究员埃文 · 胡宾格估算,未来十年之内 AI 致使人类遭遇毁灭性后果的概率高于 10%。
推荐理由:招股书用 80 页风险披露与同行做篇幅对比,可以看清一家安全优先实验室如何向投资者界定 AI 风险。