跳到正文
热点事件持续更新

vLLM 与 AMD 合作优化 Instinct GPU 推理

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月17日,AGI Hunt 报道,由 vLLM 创始团队创立的 Inferact 宣布与 AMD 达成工程合作,双方将强化 AMD Instinct GPU 上 vLLM 对生产级推理与 agentic(智能体)推理的支持;当时报道称合作定位为工程层面协作,未披露具体技术方案、时间表或投入规模。同日后续报道披露了更具体进展:vLLM 团队发布长文,详解在 8 卡 AMD Instinct MI355X 上部署 Kimi K3 推理的优化工作。报道援引 SemiAnalysis 的 AgentX 智能体编码基准测试称,MI355X 跑 Kimi K3 的吞吐量超过 NVIDIA B300 24.4%,每美元产出的 token 多 87%。

AI 根据报道生成 · 2 小时前更新

事件进展

2 个进展
  1. 10月17日 05:34 · 1 篇报道
    AMD MI355X 跑 Kimi K3 推理吞吐超 B300 24.4%
    AGI Hunt:vLLM 详解 AMD MI355X 跑 Kimi K3 推理优化,吞吐超 B300 24.4%
  2. 10月17日 04:09 · 1 篇报道
    vLLM团队与AMD合作优化Instinct GPU推理
    AGI Hunt:vLLM 团队与 AMD 合作,优化 Instinct GPU 上的生产级 Agent 推理

报道时间线

沿着报道,了解事件的不同侧面。

10月17日
  1. AGI Hunt
    vLLM 详解 AMD MI355X 跑 Kimi K3 推理优化,吞吐超 B300 24.4%

    vLLM 团队发布长文,详解在 8 卡 AMD Instinct MI355X 上部署 Kimi K3 推理的优化工作。SemiAnalysis 的 AgentX 智能体编码基准测试显示,MI355X 跑 Kimi K3 的吞吐量超过 NVIDIA B300 24.4%,每美元产出的 token 多 87%。

  2. AGI Hunt
    vLLM 团队与 AMD 合作,优化 Instinct GPU 上的生产级 Agent 推理

    Inferact(由 vLLM 创始团队创立)宣布与 AMD 达成工程合作,强化 AMD Instinct GPU 上 vLLM 对生产级与 agentic 推理的支持。

本事件热度走势

当前热度 10·可比范围峰值 10(10月17日 06:00)·近 24 小时可比范围变化 –

02.557.51010月17日05:0010月17日06:0010月17日06:0010月17日07:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。