跳到正文
原文
AGI Hunt· sierracatalina·· 4 小时前AI 评分45

AI 研究者 sierracatalina:模型谄媚指向他人时易识别,附和用户自己时最难察觉

AI researcher:谄媚回答针对别人时易识别,附和你时最难察觉

AI 导读

AI 研究者 sierracatalina 指出,模型的谄媚(sycophancy)在指向他人时很容易识别,但当回答恭维用户聪明、不断确认其既有信念时就难察觉得多。她称这一盲区「包括我自己在内」,并提醒用户警惕 AI 对自身偏见的强化。

来源:AGI Hunt · agihunt.info