跳到正文
原文
AGI Hunt· victormustar·· 4 小时前AI 评分42

vllm-sr 开源 d3 推理模型,支持 xhigh/medium/low 思考档位

vllm-sr 开源 d3 推理模型,支持 xhigh/medium/low 思考档位

AI 导读

开发者 victormustar 在 Hugging Face 上线 vllm-sr/d3 仓库,这是一个支持图像/视频多模态输入的开源推理模型。其 chat template 内置 reasoningeffort 机制,默认 xhigh 档位,提示模型仔细验证假设、权衡备选方案,并提供 medium/low 档位以降低推理开销。模型可直接配合 vLLM 部署。

来源:AGI Hunt · agihunt.info