AGI Hunt· Monash·2026-10-07 15:17· 2 小时前AI 评分40

Monash 提出 HLA 混合线性注意力：LongBench-V2 最高提升 5.57 分

HLA 混合线性注意力:LongBench-V2 最高提升 5.57 分

AI 导读

Monash 团队提出 HLA（Hybrid Linear Attention），为 Gated DeltaNet 加入查询依赖的块级路由门，以选择性访问被压缩进循环状态的稀疏远距离信息。

来源：AGI Hunt · agihunt.info