热点事件持续更新
团队用 FFT 压缩 AdamW 优化器状态省显存
1 篇报道1 个报道来源10 小时前更新
先了解这件事
AI 综述
2026 年 10 月 6 日，AGI Hunt 报道，一个团队提出用 FFT 变换梯度、剔除低能量频率分量，从而压缩 AdamW 优化器状态。报道称，在消费级 GPU 上微调 8B/70B 模型时，VRAM 占用约降低 50%，batch size 大幅提升，代价是每步多出一点计算开销。团队称避开量化，是因为观察到 8-bit 量化会损害收敛。目前团队已开放内部 Colab 环境与基线权重，邀请他人验证或推翻其数学推导，并征集其他非量化的省显存方案。
AI 根据报道生成 · 2 小时前更新
最新进展10月6日 03:54
团队开放 Colab 环境与基线权重，邀人验证或推翻其 FFT 压缩推导。报道时间线
沿着报道，了解事件的不同侧面。
10月6日
- AGI Hunt用 FFT 压缩 AdamW 优化器状态，VRAM 直接省一半
团队提出用 FFT 变换梯度、剔除低能量频率后压缩优化器状态，在消费级 GPU 上微调 8B/70B 模型时 VRAM 占用约降 50%，batch size 大幅提升，代价是每步多一点计算开销。避开量化是因为观察到 8-bit 量化会损害收敛。现开放内部 Colab 环境与基线权重，邀请他人验证或推翻其数学推导，并征集其他非量化省显存方案。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。