AGI Hunt· vllm_project·· 4 小时前AI 评分35
用 vLLM 补丁在 DGX Spark 上实测:DiffusionGemma 打平并跑赢商用 API
用 vLLM 补丁在 DGX Spark 上实测:DiffusionGemma 打平并跑赢商用 API
AI 导读
开发者 HOTHEAD01TH 为 vLLM 写了自定义补丁,让 DiffusionGemma 以「Jev 替代」方式在 DGX Spark 上本地运行,并与商用 API 做 live 评测。结果显示速度并未更慢,智能程度基本打平,综合表现 DiffusionGemma 更胜一筹。vLLM 官方转发了这项工作,并呼吁将补丁贡献回上游。
来源:AGI Hunt · agihunt.info