跳到正文
原文
AGI Hunt· _reachsumit·· 3 小时前AI 评分45

Octen-WebGR 把 2.01 亿网页存进语言模型参数,导航搜索显存仅需密集检索的 1/40

Octen-WebGR 把 2 亿网页存进语言模型参数,导航搜索成本仅密集检索 1/40 显存

AI 导读

Octen-WebGR 生成式检索框架把 2.01 亿网页索引存进 4B 语言模型参数,单卡 10GB 显存即可运行,精确密集检索则需 412GB。真实导航流量上其 top-1 准确率 59.6%,高于点击增强密集检索的 46.5%,前沿 LLM 凭记忆回答仅 37.5% 且单查询成本至少高 40 倍。

来源:AGI Hunt · agihunt.info