AI2 字节级模型 Bolmo 研究登 Nature 并开源

AI2 推进字节级语言模型 Bolmo 的字节化工作。据 2026 年 10 月 7 日报道，AI2 发布了 Stage 1 checkpoint，其字节级组件已完成训练，同时原始模型权重保持不变，研究者可直接在此基础上测试新架构、训练完整系统，无需重复初始训练阶段。同日后续报道称，Bolmo 的字节化研究已被 Nature 接收并正式发表，同时发布了新的 Stage 1 checkpoint，Bolmo 为全开源模型。研究指出，主流模型的子词切分会掩盖不同书写系统的拼写细节，并拆碎代码与数学中有意义的单元，而字节级建模可直接读写文本字节以避免这些问题。早先报道只提到 Stage 1 checkpoint 的发布与其可用性，后续报道补充了论文被 Nature 接收发表及全开源的信息。截至目前，尚无后续阶段或完整系统进展的进一步披露。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。