本地 embedding+reranker 与托管 LLM 做商品目录匹配，如何取舍？

一位开发者正在构建把自由格式请求匹配到结构化商品目录的功能，原型用托管 LLM 对候选列表排序。他想了解小型本地 embedding 模型加 reranker 能否以更低成本达到相近质量，以及月请求量 1 万–10 万级下的真实延迟与成本数据，并询问本地检索的短板与混合方案是否更好。