AGI Hunt· _reachsumit·· 4 小时前AI 评分42
LLM 稀疏检索新法 Adaptive Sparse Supervision:索引存储省 6.4 倍、查询延迟降 11 倍
LLM 稀疏检索新法:索引存储省 6.4 倍、查询延迟降 11 倍
AI 导读
arXiv 论文《Adaptive Sparse Supervision》提出基于 LLM 的稀疏检索框架:按 SPLADE 累积激活质量动态 α-截断选取监督支撑集,辅以对比学习、知识蒸馏与稀疏正则微调。该方法在 MS MARCO 与 6 个 BEIR 数据集上超过 SPLADE++,相比 Lion-sp 索引存储降至 1/6.4、端到端查询延迟降 11 倍以上。
来源:AGI Hunt · agihunt.info