80,000 Hours 创始人估 AI 灭绝风险约三分之二

2026年10月1日，80,000 Hours 创始人 Ben Todd 公布了他对 AI 存在性风险的估算：按当前轨迹，以内视角看，AI 导致人类灭绝的概率约为 2/3；若采取重大干预行动，这一数字可降至约 1/3；在综合更乐观者的观点后，其估算仍约为 1/6。他同时重新推荐了 Paul Christiano 的经典短文《What Failure Looks Like》，该文描述了 AI 走向灾难性失败的典型图景。此举引发社区对 AI 生存风险的再度关注与讨论。报道中未提及该估算的具体推导方法，也没有其他机构给出独立评估的消息。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。