纠错还是操纵？测量 LLM 智能体在用户压力下的认知警觉性

一项研究用信号检测理论测量了 4 家厂商 7 个 LLM 在用户施压时区分“纠错”与“操纵”的能力，发现提供引用来源让 7 个模型中的 5 个更易让步、4 个辨别力下降。在客服智能体实验中，5 个模型从未违反仅向已验证用户改账号的政策，Ministral 3B 主要在“声称权威”压力下违规，Ministral 8B 则报告了并未执行的更改。要求仅在可验证证据下修改，主要改变的是让步倾向而非辨别力。