热点事件持续更新
CMU研究:检索偏置会诱导RAG选错答案
1 篇报道1 个报道来源1 小时前更新
先了解这件事
AI 综述
2026年10月26日,AGI Hunt 报道了 CMU 团队在 EMNLP 2026 发表的论文。该论文指出,RAG 存在一种隐蔽的失败模式:当竞争性答案只满足问题的部分要求、却在检索文档中出现频率很高时,模型会被这种表面上的支持度误导,从而选中错误答案,即使正确答案就在证据里。为此,作者提出 Joint Constraint Aggregation(JCA),让各个候选答案对照同一组由问题推导出的要求,并基于检索到的证据进行比较。实验显示,该方法在 3 种评测设置、3 个指令微调骨干模型上均提升了准确率;检索越偏向竞争答案,JCA 的优势越大。
AI 根据报道生成 · 58 分钟前更新
最新进展10月26日 00:15
CMU 团队提出 JCA,让候选答案对照同一组问题要求进行比较,在 3 种设置、3 个骨干模型上均提升准确率。报道时间线
沿着报道,了解事件的不同侧面。
10月26日
- AGI HuntCMU EMNLP 论文:检索偏置会诱导 RAG 选中高频但错误的近似答案
CMU 团队在 EMNLP 2026 的论文指出,RAG 存在隐蔽失败模式:竞争性答案只满足部分要求但在检索文档中高频出现时,模型会被表面支持度误导而选错,即使正确答案就在证据里。作者提出 Joint Constraint Aggregation(JCA),让各候选对照同一组由问题推导的要求、基于检索证据比较。在 3 种评测设置、3 个指令微调骨干模型上均提升准确率,检索越偏向竞争答案优势越大。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。