Marin 作者详解 scaling law 公式：难点在小模型阶段估渐近线

Marin 作者 dlwh 在 scaling law 线程中给出简化拟合公式 loss = E + A·compute^(-alpha)，其中 E 是 loss 的渐近下限，A 是尺度，alpha 是斜率。难点在于小模型 loss 仍远高于下限时，需要同时估计这个下限本身。做法是用同一 recipe 训练一梯子小模型、测 held-out loss，并在不同训练进度拟合曲线来预测大模型全程轨迹。