跳到正文
原文
AGI Hunt· DanielKhashabi·· 5 小时前AI 评分34

EMNLP 2026 Findings 论文:LLM agent 准确率越高,未必越愿承认不确定性

EMNLP 论文:LLM agent 准确率越高,未必越愿承认不确定性

AI 导读

EMNLP 2026 Findings 论文《Accurate but Not Humble》提出评估 LLM agent「认知谦逊」的新框架,按识别、解决、上报三个轨迹级行为维度衡量。在参数知识与检索证据冲突、多步执行中上下文来源矛盾两类场景下测试 4 个 agent,结果显示任务准确率更高不等于认知谦逊更高。部分高准确率配置能在执行早期发现冲突,却未在错误答案中传达未解决的不确定性。

来源:AGI Hunt · agihunt.info