TRL 树注意力支持线性注意力模型，实测最高提速 3.46 倍

2026 年 10 月 27 日，AGI Hunt 报道称，TRL 的 AsyncGRPOTrainer 树注意力现已支持线性注意力模型，最高加速 3.46 倍。该报道给出的实测环境为 1x H100 BF16：Qwen3.5-0.8B 在 grpo-g1-64k 上加速 3.84 倍，在 agent-fork-long 上加速 4.36 倍；Qwen3.5-2B 最高加速 4.24 倍；另有一些 baseline 因显存不足直接 OOM。需要指出的是，同一篇报道的标题称“最高提速 3.46 倍”，正文列出的单项加速数据最高为 4.36 倍，两处数字不一致，报道未说明差异原因。目前该消息仅有这一篇报道，尚未见到更详细的测试条件、基线配置或官方说明。

AI 根据报道生成 · 1 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。