SwiLA 架构解读：J=1 时即退化为 DeltaNet

研究者 hyundongleee 提出的 SwiLA 在 J=1 时恰好退化为 DeltaNet，为线性注意力/DeltaNet 类方法提供统一的混合视角。SwiLA 用 J 个线性回归的混合让每个 value 坐标各选一个回归器并带可学习先验，优化器以 online SGD 按「责任度」加权执行一步 delta-rule 更新。