跳到正文
原文
AGI Hunt· Key_Coconut_9269·· 2 小时前AI 评分47

本地向量路由在 10 万工具上 top-1 达 70.7%、延迟 9.56ms,优于 BM25

本地向量路由 100k 工具 top-1 达 70.7%、延迟 9.6ms,吊打 BM25

AI 导读

开发者用 all-MiniLM-L6-v2 加 chromadb HNSW 做本地 CPU 向量路由,在 10 万合成工具端点上 top-1 达 70.7%、延迟 9.56ms(p95 11.4ms),BM25 仅 40.4%、194ms。

来源:AGI Hunt · agihunt.info