LessWrong 长文：为何不轻信你的「超对齐」天才方案

LessWrong 精选发布写于 2021 年、刚完成的长文《Cat-Belling Problems》，核心论点是 ASI 对齐的众多自创“聪明计划”常与深层原理相抵触且缺乏可检验性，不值得轻信。文中用 1996 年 Extropians 邮件列表上 L 先生的「无反作用力驱动器」和无法展示的 Excel 表格为例，并借 Feynman 的三类永动机说明“诉诸未知物理”值得认真却易被骗子利用。