AI2字节化方法改造Qwen3与Llama3为字节级模型

2026年10月7日，AGI Hunt 报道，AI2 提出一种“字节化”配方，通过短程附加训练，把 Qwen 3 8B 与 Llama 3 8B 转换为字节级模型，分别称为 Bwen 8B 和 Blama 8B，并保留核心权重。报道称该方案成本较低。方法新增的组件会把字节分组为变长 patch 交给模型处理，输出再扩展回字节级，用于预测下一个字节。评测显示，两个改造后模型的性能均接近各自的源模型，其中 Bwen 8B 在综合评测套中表现相当。目前公开的信息集中在方法本身与评测结果上，报道未提及后续计划或其他模型上的验证情况。

AI 根据报道生成 · 3 小时前更新

还没有足够的连续观测数据，暂不绘制趋势。