跳到正文
原文
AGI Hunt· BrihiJ·· 4 小时前AI 评分40

ICML 论文放出 108 个 OLMo 风格小模型(4M–75M)及约 3900 个检查点

ICML 论文放出 108 个 OLMo 风格小模型(4M–75M)及约 3900 个检查点

AI 导读

dill-lab 将 ICML 2026 论文训练的 108 个 OLMo 风格语言模型(4M–75M)全部公开在 Hugging Face GeoLadder 合集。模型覆盖 token 数、batch size、学习率、weight decay 与 LR decay 的受控扫描,并附带约 3900 个中间检查点,为研究训练动力学与 scaling 规律提供完整受控实验数据。

来源:AGI Hunt · agihunt.info