arXiv cs.CL· Md Sakib Ul Islam, S M Mehedi Zaman·· 2 小时前AI 评分48
预训练披露能否延续到后续版本？17 个模型家族 41 个模型条目的审计
What Carries Forward? Pretraining Disclosure Across Language Model Releases
AI 导读
用 2025 FMTI 的 24 项预训练指标审计 17 个模型家族 41 个条目后发现，后续版本并未稳定延续此前的预训练信息披露。24 组相邻版本对比中 11 组分数下降、6 组上升、7 组持平，共 38 项指标丢失、28 项增加；OLMo-2 与 OLMo-3 总分相同却各有三项增与三项失。语料构成与训练算力方面的披露缺口仍然存在。
来源：arXiv cs.CL · arxiv.org