AGI Hunt· pratyushmaini·· 5 小时前AI 评分29
Datology AI 开源 Zephon:支持弹性确定性与流式分词的数据加载器
Datology AI 开源 Zephon:支持弹性确定性与流式分词的数据加载器
AI 导读
Datology AI 开源数据加载器 Zephon,可在流式处理数据时保持确定性,并支持即时分词。它针对现有 dataloader 无法同时满足弹性确定性(同一实验在 16 卡与 8 卡上结果一致)和 pipeline 改动无需重新物化整个数据集的问题。据称该工具显著加快了其实验迭代速度。
来源:AGI Hunt · agihunt.info