AGI Hunt· DanielKhashabi·· 5 小时前AI 评分34
EMNLP 2026 Findings 论文:LLM agent 准确率越高,未必越愿承认不确定性
EMNLP 论文:LLM agent 准确率越高,未必越愿承认不确定性
AI 导读
EMNLP 2026 Findings 论文《Accurate but Not Humble》提出评估 LLM agent「认知谦逊」的新框架,按识别、解决、上报三个轨迹级行为维度衡量。在参数知识与检索证据冲突、多步执行中上下文来源矛盾两类场景下测试 4 个 agent,结果显示任务准确率更高不等于认知谦逊更高。部分高准确率配置能在执行早期发现冲突,却未在错误答案中传达未解决的不确定性。
来源:AGI Hunt · agihunt.info