热点事件持续更新
分布偏移下 ViT token 缩减的后期集中调度改进
1 篇报道1 个报道来源3 小时前更新
先了解这件事
AI 综述
2026 年 10 月 7 日,arXiv cs.CV 刊出论文《越晚越好:分布偏移下 ViT 的 token 缩减》,针对视觉 Transformer 在分布偏移下做 token 缩减时出现的精度下降,提出一种单参数、后期集中的幂律调度策略。报道称该调度不增加推理成本:在 ImageNet-C 上,DeiT-S 在 26% 计算缩减下弥补了 83% 的精度差距(+1.17pp),在 7% 缩减下弥补 99%(+0.26pp)。论文称该增益在 ToMe、EViT、ATS、ATC、PiToMe 五种方法、九个骨干网络,以及视频与视觉语言问答任务上均成立。目前尚无其他来源的独立验证或复现报道。
AI 根据报道生成 · 2 小时前更新
最新进展10月7日 12:00
新论文提出后期集中的单参数幂律调度,称可在不增加推理成本下缩小分布偏移带来的精度差距。报道时间线
沿着报道,了解事件的不同侧面。
10月7日
- arXiv cs.CV越晚越好:分布偏移下 ViT 的 token 缩减
单参数、后期集中的幂律调度可缩小 ViT 在分布偏移下的 token 缩减精度差距,且不增加推理成本。ImageNet-C 上,DeiT-S 在 26% 计算缩减下弥补 83% 差距(+1.17pp),7% 缩减下弥补 99%(+0.26pp)。增益在 ToMe、EViT、ATS、ATC、PiToMe 五种方法、九个骨干网络及视频、视觉语言 QA 上均成立。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。