开发者 arthurcolle 三周从零训出 1B 模型：晒 15.9 天训练实录

开发者 arthurcolle 用约三周从零预训练 1B 小模型，并晒出项目 sys1-999m-v100k-run1 的训练日志。该训练已跑 15940/30000 步（53.1%）、处理 2611.58M tokens，速度约 3773.4 tokens/秒，进程连续运行 7 天 21 小时，还需约 7 天完成。他认为小模型预训练在个人可承受的时间与算力预算内是可行的。