跳到正文
原文
AGI Hunt· pratyushmaini·· 5 小时前AI 评分29

Datology AI 开源 Zephon:支持弹性确定性与流式分词的数据加载器

Datology AI 开源 Zephon:支持弹性确定性与流式分词的数据加载器

AI 导读

Datology AI 开源数据加载器 Zephon,可在流式处理数据时保持确定性,并支持即时分词。它针对现有 dataloader 无法同时满足弹性确定性(同一实验在 16 卡与 8 卡上结果一致)和 pipeline 改动无需重新物化整个数据集的问题。据称该工具显著加快了其实验迭代速度。

来源:AGI Hunt · agihunt.info