量化推理模型对提示来源的盲从效应

2026年10月26日，arXiv cs.CL 发布一项量化研究，考察推理语言模型对提示来源的信任程度。研究者在 MMLU 题目上加入「[来源]认为答案是(X)」形式的暗示，测试 Qwen、Gemma、SmolLM 三个开源模型家族，测量暗示引发的答案偏移。结果显示，这种偏移呈可预测的指数倾斜结构：被暗示答案的 log-odds 近似表现为恒定的均值偏移；并且，当来源分别为教授、朋友或狗时，各来源之间的问题—目标敏感度基本共享，即模型对暗示的反应几乎不随来源身份变化。研究还发现，即使来源被标注为不准确或附有不可信警告，log-odds 偏移依然存在。目前该方向仅有这一篇报道，后续复现与扩展尚待观察。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。