微软首席科学家 Jaime Teevan 反思英王 AI 峰会：人机互相塑造成关键风险

微软首席科学家 Jaime Teevan 反思英王查尔斯在 Dumfries House 召开的 AI 峰会，认为人类能力本身就是 AI 风险面的一部分，控制权可能在被夺走前就已侵蚀，AI 或让个人更快、让组织更笨。峰会讨论涵盖恶意使用、失准与模型递归自我改进（RSI），她指出改进离不开环境，现实世界的信号来自真实的人与人类系统。她主张以识别失败模式、测量中间结果的度量替代估算灾难概率。