AGI Hunt· StanfordUniversity·· 2 小时前AI 评分56
斯坦福等团队揭示「思考惯性」:LLM 被要求不思考时仍会推理
斯坦福等揭示「思考惯性」:LLM 被要求不思考时仍会偷偷推理
AI 导读
清华、牛津、斯坦福团队研究 LLM 的 no-thinking 行为,发现显式关闭思考模式无法可靠消除可见推理,称为「思考惯性」。研究在 6 个 LLM、6 种提示干预和布尔、选择题、开放题三类问题上评测,将响应拆为答案前轨迹与最终答案,提出空思考率、问题-答案前轨迹相关性、LLM 评审显式推理率三层指标。
来源:AGI Hunt · agihunt.info