跳到正文
原文
AGI Hunt· MaartenSap·· 3 小时前AI 评分44

CMU 等提出 XYBench 基准:最强 LLM 识别用户误解不足 63%,仍多照字面回答

XYBench 基准:最强 LLM 仍照字面回答,识别用户误解不足 63%

AI 导读

CMU 等机构提出 XYBench 基准(8,115 条查询),考察 LLM 面对「XY 问题」式带误解提问时能否识别误解、给出实用方案。最强 LLM 仍多照字面回答(0.75–0.92),回应用户真实意图仅 0.33–0.71,识别误解最高 63%,远低于人类的 79–90%。模型在选择题中几乎都偏好「实用回应」却难以主动生成,论文将在 10 月 27 日 ICLR 海报环节展示。

来源:AGI Hunt · agihunt.info