跳到正文
热点事件持续更新

QUASAR 修正 QAT 高低精度权重错配

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026 年 10 月 17 日,AGI Hunt 报道,QUASAR 针对量化感知训练(QAT)中的高低精度权重错配问题提出修正方法。报道称,QAT 在 2–4 bit 下每步更新的是高精度隐含权重,但损失与梯度却在推理实际使用的低位重建权重上计算,由此造成训练动态次优、损失下限偏高。QUASAR 只改变前向传播中的权重重建映射,不增加任何推理开销,计算廉价,可与其他 QAT 方法叠加;实验中其损失持续低于所有 QAT 基线。目前该报道为该方法的最新公开进展,暂无更早报道或后续更新。

AI 根据报道生成 · 3 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月17日
  1. AGI Hunt
    QUASAR 修正 QAT 高低精度错配:低位量化训练损失更低且零推理开销

    QUASAR 针对 QAT 高低精度错配,只改变前向传播中的权重重建映射,不增加任何推理开销。QAT 在 2-4 bit 下每步更新的是高精度隐含权重,损失与梯度却在推理实际使用的低位重建权重上计算,造成训练动态次优、损失下限偏高。该方法计算廉价,可与其他 QAT 方法叠加,实验中损失持续低于所有 QAT 基线。

本事件热度走势

当前热度 9·可比范围峰值 10(10月17日 02:00)·近 24 小时可比范围变化 –

02.557.51010月17日02:0010月17日03:0010月17日03:0010月17日04:00

趋势仅比较持续完整观测到的相同主体,范围可能小于当前热度统计。移动指针或点击图表查看每小时热度;键盘可用左右方向键切换。