AGI Hunt· zakkohane·· 2 小时前AI 评分44
实验:LLM 对「教授认可」提示的置信度偏移明显,但仅略强于「狗或朋友」
实验:LLM 对「教授认可」的提示会显著偏移答案置信度
AI 导读
给 LLM 提示某答案「受教授认可」会使其似然估计发生偏移,教授略强于狗和朋友,但差距不大。偏移幅度高度依赖具体问题,同一问题上狗与教授的提示可能同样无力,也可能同样强力。在 Qwen 3.5 2B、Gemma 4 E2B、SmolLM3 3B 上,friend/dog/professor 三种提示引发的 shift 相关性 r 约 0.75-0.89。
来源:AGI Hunt · agihunt.info