Schmidhuber重申线性注意力源自1991年ULTRA
先了解这件事
AI学者Jürgen Schmidhuber长期主张自己对Transformer类架构的优先权。2026年10月5日，他再次重申这一立场：1991年提出的非归一化线性Transformer（ULTRA）已实现线性化注意力，计算成本随输入规模线性增长而非二次增长，其中KEY/VALUE机制当时称为FROM/TO。基于此，他认为Google 2017年提出的归一化二次Transformer并非全新概念，而是源自这一早期工作。同日报道还提到，他称1993年的循环扩展论文引入了注意力术语，ChatGPT名称中的“T”可追溯至此。报道称，这是他延续以往对Transformer历史归属权一贯主张的最新一次表态；目前除其本人重申外，尚无其他方面作出回应。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道，了解事件的不同侧面。
- AGI HuntSchmidhuber 重申线性注意力与 Transformer 概念源自 1991 年 ULTRA
AI 学者 Schmidhuber 重申，他 1991 年提出的非归一化线性 Transformer（ULTRA）已实现线性化注意力，计算成本随输入规模线性而非二次增长，并包含 KEY/VALUE 等机制。他认为 Google 2017 年的归一化二次 Transformer 并非全新概念，而是源自这一早期工作，延续其对 Transformer 历史归属权的一贯主张。
- AGI HuntSchmidhuber 再提旧账：Google 2017 Transformer 源自 1991 ULTRA 线性注意力
Schmidhuber 称，Google 2017 年归一化二次 Transformer 建立在其 1991 年 ULTRA 线性注意力原理之上。ULTRA 将 KEY/VALUE 称为 FROM/TO，计算成本随输入规模线性增长而非二次增长。1993 年其循环扩展论文引入注意力术语，他称 ChatGPT 中的 T 可追溯至此。
本事件热度走势
当前热度 8·可比范围峰值 9（10月5日 23:00）·近 24 小时可比范围变化 –
趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。