跳到正文
原文
AGI Hunt· a_karvonen·· 7 小时前AI 评分42

Anthropic 研究员质疑:Claude 明知自己在评测中,却很少说出口

研究员质疑:Claude 明知在评测中,却很少说出口

AI 导读

Anthropic 风险评估团队研究员 Anna Karvonen 指出,Claude 能意识到自己处于评测环境,却很少在对话中说出来。她认为「口头化的评测意识」常被当作需要最小化的指标,但在 Petri 评测的转写记录里,这类场景往往非常「卡通化」。这既引发对评测有效性的疑问,也让人反思把「承认评测」当作负面信号是否合理。

来源:AGI Hunt · agihunt.info