Fern宣称支持10M上下文，研究者追问为何少有同类模型

2026年10月27日，据 AGI Hunt 报道，Fern 宣称其架构从训练到推理均支持 10M token 上下文，且 next-token prediction 随上下文增长持续提升。随后研究者 agarwl 就此追问：为何很少看到大厂发布 10M 级上下文模型。他提出的疑问是，这一步是否因必须放弃二次方复杂度的 attention、切换到非二次方注意力方案而难以迈出。报道中未提及 Fern 或其他厂商对该追问的进一步回应。

AI 根据报道生成 · 2 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。