跳到正文
热点事件持续更新

分布偏移下 ViT token 缩减的后期集中调度改进

1 篇报道1 个报道来源3 小时前更新

先了解这件事

AI 综述

2026 年 10 月 7 日,arXiv cs.CV 刊出论文《越晚越好:分布偏移下 ViT 的 token 缩减》,针对视觉 Transformer 在分布偏移下做 token 缩减时出现的精度下降,提出一种单参数、后期集中的幂律调度策略。报道称该调度不增加推理成本:在 ImageNet-C 上,DeiT-S 在 26% 计算缩减下弥补了 83% 的精度差距(+1.17pp),在 7% 缩减下弥补 99%(+0.26pp)。论文称该增益在 ToMe、EViT、ATS、ATC、PiToMe 五种方法、九个骨干网络,以及视频与视觉语言问答任务上均成立。目前尚无其他来源的独立验证或复现报道。

AI 根据报道生成 · 2 小时前更新

报道时间线

沿着报道,了解事件的不同侧面。

10月7日
  1. arXiv cs.CV
    越晚越好:分布偏移下 ViT 的 token 缩减

    单参数、后期集中的幂律调度可缩小 ViT 在分布偏移下的 token 缩减精度差距,且不增加推理成本。ImageNet-C 上,DeiT-S 在 26% 计算缩减下弥补 83% 差距(+1.17pp),7% 缩减下弥补 99%(+0.26pp)。增益在 ToMe、EViT、ATS、ATC、PiToMe 五种方法、九个骨干网络及视频、视觉语言 QA 上均成立。

本事件热度走势

还没有足够的连续观测数据,暂不绘制趋势。