跳到正文
原文
arXiv cs.CL· Isaac Olufadewa, Miracle Adesina, Ezekiel Oladejo, Owen Adeniyi, Fadare Fadekemi, Olamide Oso, Uthman Babatunde, Matthew Olawoyin·· 4 小时前AI 评分34

超越上下文窗口:面向混合检索与长上下文语言模型的自适应熵路由框架 EDAR

Beyond the Context Window: An Adaptive Entropy-Based Routing Framework for Hybrid Retrieval and Long-Context Language Models

AI 导读

EDAR 自适应熵路由框架在推理时依据 RAG 响应前几个 token 的预测熵,决定直接用检索片段回答还是升级为完整长上下文处理。在 LongBench v2 与 Infinity-Bench 上,它保留纯长上下文基线 97.4% 的准确率、token 开销减少 70.7%,仅 18.2% 的查询被升级。

来源:arXiv cs.CL · arxiv.org