热点事件持续更新
Partial RoPE：仅旋转10%维度可逼近全RoPE收敛
1 篇报道1 个报道来源2 小时前更新
先了解这件事
AI 综述
2026年10月26日，AGI Hunt 报道了 EMNLP 2026 的一项 Partial RoPE 研究：团队从零预训练 55 个 1B 与 8B 模型，覆盖 0–100% 的维度旋转比例，结果显示，仅旋转约 10% 的维度就能达到与全 RoPE 相近的收敛损失带，同时 RoPE cache 最高可缩小 10 倍。在 LAMBDA 困惑度指标上，10% 旋转比例为 11.86±0.39，100% 全 RoPE 为 11.78±0.39。研究还发现，完全不旋转的 NoPE 会破坏训练稳定性。报道未给出更多实验细节或后续复现进展。
AI 根据报道生成 · 1 小时前更新
最新进展10月26日 22:34
EMNLP 2026 论文称仅旋转 10% 维度即达全 RoPE 收敛带，缓存缩小 10 倍。报道时间线
沿着报道，了解事件的不同侧面。
10月26日
- AGI HuntPartial RoPE 研究：仅旋转 10% 维度即可逼近全 RoPE 收敛
EMNLP 2026 的 Partial RoPE 研究显示，仅旋转约 10% 维度即可达到与全 RoPE 相近的收敛损失带，RoPE cache 最高缩小 10 倍。团队从零预训练 55 个 1B 与 8B 模型，覆盖 0–100% 旋转比例，并发现 NoPE 会破坏训练稳定性。LAMBDA 困惑度上，10% 为 11.86±0.39，100% 为 11.78±0.39。
本事件热度走势
还没有足够的连续观测数据，暂不绘制趋势。