Bostrom 1998 年论文神预言：本世纪前三分之一或将迎来超级智能

maksym_andr 发推回顾 Nick Bostrom 1998 年的论文，该论文主张本世纪前三分之一将迎来超越人类的超级人工智能。论文提出递归自我改进：AI 达到人类水平后会出现正反馈循环、不断帮助构建更好的 AI；并称短期利润、好奇心等力量让放缓前沿节奏、优先安全极难实现。作者也指出 Bostrom 对反向传播的判断完全错了。