跳到正文
原文
AGI Hunt· vllm_project·· 5 小时前AI 评分25

vLLM 官方致谢开发者:8 个 PR 落地 semantic-router 与 Mooncake

AI 导读

vLLM 官方账号转发致谢开发者 Abhinandan(@abhibuilds),其 7 个 PR 已合入 vLLM 的 semantic-router 项目,另 1 个 PR 合入 KVCache AI 的 Mooncake。vLLM 表示这些工作正在落地到整个推理服务生态。

来源:AGI Hunt · agihunt.info