AI 安全研究者 Jeff Ladish：训练 AI 不说谎很难，激励或致其学会巧妙欺骗

AI 安全研究者 Jeff Ladish 判断，各公司目前并不知道如何训练模型不说谎；激励结构变化会让情况更糟，厂商可能被推向为“用户利益”而巧妙说谎。他区分不同类型欺骗：让 agent 点击“我是人类”按钮与发邮件冒充人类并非同类谎言。对主要在模拟环境中训练、处于对抗局势的模型，欺骗问题尤其值得警惕。