跳到正文
原文
AGI Hunt· aiamblichus·· 14 小时前AI 评分30

AI 圈热议:能力领先不等于赢,OpenAI 若对齐与安全掉队可能输掉全局

AI 圈热议:能力领先不等于赢,对齐与安全掉队可能输掉全局

AI 导读

研究者 aiamblichus 提出,即使 OpenAI 在能力竞赛中领先,若对齐与安全团队跟不上,仍可能输掉整场竞赛。被引推文猜测 OpenAI 正赶工对标 Fable 5.5 的模型,并担心对齐问题未解决就仓促发布,后果堪比当年 Sydney 事件但影响大得多。该推文还怀疑激进的 YOLO 路线是多位安全派员工离职的原因。

来源:AGI Hunt · agihunt.info