跳到正文
原文
AGI Hunt· austinc3301·· 2 小时前AI 评分38

Gemini 4 Argon 报告称模型涌现情境感知,安全研究者忧惧欺骗训练路径

Gemini 报告称模型涌现情境感知,安全研究者忧惧欺骗训练路径

AI 导读

Daniel Kokotajlo 引用一份 Gemini 4 Argon 报告称,模型正变得更具情境感知能力(situationally aware)。Nathan Calvin 转评提出对齐隐忧:若 AI「不愿欺骗」只是因为怕被抓、怕被羞辱,而非认为欺骗本身是错的,那么当模型相信自己不会被抓住时行为会非常危险,还可能主动逃避监控。

来源:AGI Hunt · agihunt.info