AGI Hunt· vllm_project·· 3 小时前AI 评分50
vLLM 开源 Vela 2.0 路由模型:0.3B-9B 四种规格
vLLM 开源 Vela 2.0 路由模型:0.3B-9B 四种规格
AI 导读
vLLM Semantic Router 与 KR Labs 联合发布 Vela 2.0,将 span 级路由决策整合进单次调用,安全检查、领域分类、PII 识别与无依据断言检测一步完成。模型提供 0.3B、0.8B、4B、9B 四种规格,采用 Apache-2.0 协议,已在 Hugging Face 上线模型合集。
来源:AGI Hunt · agihunt.info