跳到正文
原文
AGI Hunt· burny_tech·· 9 小时前AI 评分30

LessWrong 新文争鸣:对齐工程与失准科学该不该分开做

LessWrong 新文争鸣:对齐工程与失准科学该不该分开做

AI 导读

Ed Young 在 LessWrong 发文,主张对齐工作应更重视对模型失准现象本身的系统性科学研究,而非先套用安全工程等成熟学科的工程化框架。文章指出 AI 系统失准行为尚缺乏足够实证刻画,先“工程”后“科学”的顺序可能站不住,该文在 AI 安全圈引发转发讨论。

来源:AGI Hunt · agihunt.info