跳到正文
热点事件持续更新

分析称NVL72带宽大量闲置,缩减不伤推理性能

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026年10月26日,AGI Hunt 报道了一项针对 NVL72 机架 scale-up 带宽与推理性能关系的分析。该分析的核心观点是:NVL72 机架的 scale-up 带宽大多处于闲置状态,因此减少这部分带宽大概率不会造成推理性能退化。其给出的理由是:在 DP-EP 部署方式下,该带宽仅用于搬运 DP 与 EP 之间的 activation,数据量很小;只有 Tensor Parallel 才会重度消耗 GPU-GPU 带宽;而 GPU-HBM 与 NVLink 属于不同的池子,后者在实际使用中用得很少。报道仅呈现了这一分析判断,未提及实测数据或厂商方面的回应。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月26日
  1. AGI Hunt
    分析:NVL72 机架大规模 scale-up 带宽大多闲置,砍掉也不伤推理性能

    针对 NVL72 机架 scale-up 带宽是否影响性能,分析认为该带宽大多闲置,减少它大概率不会造成推理性能退化。DP-EP 部署下该带宽仅用于搬运 DP 与 EP 间的 activation,数据量很小;只有 Tensor Parallel 会重度消耗 GPU-GPU 带宽,GPU-HBM 与 NVLink 则是不同池子,后者用得很少。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。