跳到正文
热点事件持续更新

NVIDIA NVFP4 权重无损压缩技巧曝光

2 篇报道1 个报道来源2 小时前更新

先了解这件事

AI 综述

2026年10月16日,AGI Hunt 报道 NVIDIA 流出的 NVFP4 权重无损压缩技巧。该技巧利用专家矩阵同一行内 99% 以上相邻 block scale 彼此仅差几个单位的特点,在 Qwen 模型实测中可节省 45-48% 存储。报道同时作出技术澄清:这并非「无损量化」,而是对 NVFP4 权重的无损压缩,压缩后权重与原方案比特完全一致。同等精度下典型 NVFP4 会多占约 6GB 显存,压缩省出的显存可全部让给 KV-cache 使用。

AI 根据报道生成 · 1 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月16日
  1. AGI Hunt
    NVIDIA NVFP4 权重无损压缩新技巧:省约 6GB 显存且比特精确

    NVIDIA 流出的 NVFP4 权重无损压缩技巧在 Qwen 模型实测中可节省 45-48% 存储。它利用专家矩阵同一行内 99% 以上相邻 block scale 彼此仅差几个单位的特点,且并非无损量化,而是对 NVFP4 权重的无损压缩。同精度下典型 NVFP4 约多占 6GB,压缩后权重与原方案比特完全一致,省出的显存可全部让给 KV-cache。

  2. AGI Hunt
    NVIDIA NVFP4 权重无损压缩省约 6GB 显存,可全部让给 KV-cache

    针对「无损量化」说法的技术澄清指出,NVFP4 方案实为对 NVFP4 权重的无损压缩,在权重完全比特一致的前提下可省出约 6GB 显存。同样精度下典型 NVFP4 会大出约 6GB,压缩省出的显存可全部留给 KV-cache 使用。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。