不止于看：视觉信号作为原生多模态预训练的可扩展锚点

原生多模态预训练研究通过将图像 embedding 替换为无内容 padding token embedding 做消融：保留视觉内容可提升图文样本上的文本预测，相对多模态损失收益随算力近似呈幂律增长，但未实质改变固定算力下的纯文本最低损失与语言评测总分。在最大模型训练中，视觉增益在定位、导航与符号规划上最持久，空间关系、几何和物理常识的增益较不一致。