跳到正文
原文
AGI Hunt· LysandreJik·· 7 小时前AI 评分58

vLLM 集成 Transformers 后端,文本图像音频视频全模态统一推理

vLLM 集成 Transformers 后端,文本图像音频视频全模态统一推理

AI 导读

vLLM 宣布其 Transformers modelling backend 现已支持文本、图像、音频、视频全部模态,模型只需以 --model-impl transformers 启动即可直接服务,无需任何手写的 vLLM 模型适配代码。

来源:AGI Hunt · agihunt.info