AGI Hunt· MaartenSap·· 3 小时前AI 评分44
CMU 等提出 XYBench 基准:最强 LLM 识别用户误解不足 63%,仍多照字面回答
XYBench 基准:最强 LLM 仍照字面回答,识别用户误解不足 63%
AI 导读
CMU 等机构提出 XYBench 基准(8,115 条查询),考察 LLM 面对「XY 问题」式带误解提问时能否识别误解、给出实用方案。最强 LLM 仍多照字面回答(0.75–0.92),回应用户真实意图仅 0.33–0.71,识别误解最高 63%,远低于人类的 79–90%。模型在选择题中几乎都偏好「实用回应」却难以主动生成,论文将在 10 月 27 日 ICLR 海报环节展示。
来源:AGI Hunt · agihunt.info