本地向量路由在10万工具上top-1达70.7%

2026年10月27日，AGI Hunt 报道了一位开发者用本地 CPU 做工具路由的实测结果：以 all-MiniLM-L6-v2 生成向量、用 chromadb 的 HNSW 索引检索，在 10 万个合成工具端点上，top-1 命中率为 70.7%，平均延迟 9.56ms，p95 为 11.4ms。作为对照，同一测试中 BM25 的 top-1 仅 40.4%，延迟 194ms。报道称，该方案无需调用外部嵌入或向量服务，全部在本地 CPU 上完成。需要说明的是，这些数字来自开发者自述的单次基准，测试集为合成（而非真实）工具端点，报道中未提及第三方复现或更详细的实验设置；目前该事件仅有这一篇报道，尚无后续进展或争议数据。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。