LightMTP：轻量潜空间多 token 预测助 LLM 预训练学会提前规划

LightMTP 提出两种轻量潜空间多 token 预测变体，让 LLM 在预训练阶段学习预测未来 token、提前规划。LightMTP-Single 用单个 cosine loss 对齐未来 token 表示，LightMTP-Concat 则为每个 offset 各设一个 cosine loss，辅助目标仅在训练期使用，推理架构不变、开销轻。