跳到正文
热点事件持续更新

PrismQuant 提出零空间旋转的 INT4 量化方法

1 篇报道1 个报道来源4 小时前更新

先了解这件事

AI 综述

PrismQuant 提出一种量化器感知(quantizer-aware)的旋转框架,用于低比特量化:把激活的主特征空间与非对称分组 INT4 的常量组子空间对齐,报道称其核心为零空间旋转思路。据 AGI Hunt 2026-09-30 报道,在 W4A4KV4 设定下,Llama-3.2-3B 达到 SOTA;Llama-3.1-70B 困惑度为 3.85,平均零样本准确率 72.46%,仅比全精度低 0.22 个百分点,接近无损。该报道未给出更多实验细节,也暂未见其他来源的独立复现或后续进展。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

9月30日
  1. AGI Hunt
    PrismQuant 用零空间旋转优化 INT4 量化,70B 模型几乎无损

    PrismQuant 提出量化器感知的旋转框架,将激活主特征空间与非对称分组 INT4 的常量组子空间对齐。在 W4A4KV4 下 Llama-3.2-3B 达到 SOTA,Llama-3.1-70B 困惑度 3.85、平均零样本准确率 72.46%,仅比全精度低 0.22 个百分点。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。