跳到正文
原文
AGI Hunt· woosuk_k·· 4 小时前AI 评分50

vLLM 团队与 AMD 合作,优化 Instinct GPU 上的生产级 Agent 推理

vLLM 团队与 AMD 合作优化 Instinct GPU 上的生产级 Agent 推理

AI 导读

Inferact(由 vLLM 创始团队创立)宣布与 AMD 达成工程合作,强化 AMD Instinct GPU 上 vLLM 对生产级与 agentic 推理的支持。

来源:AGI Hunt · agihunt.info