AI 研究者提议：Transformer 的 residual streams 应改叫 residual tape 或 tape library

AI 研究者 Arohan 提出，Transformer 语境下「residual streams」是个错误视角，它某种意义上是一种记忆，更适合叫「residual tape」。他认为「residual」这个词也不准确，因为它是加性的、任何分量的数值都可以大于其他分量，因此更倾向「tape library」，并向社区征求更好的命名建议。