Google DeepMind·· 2026-04-22AI 评分52
Google DeepMind 提出 Decoupled DiLoCo，可跨数据中心异步训练 LLM
Decoupled DiLoCo: A new frontier for resilient, distributed AI training
AI 导读
Google DeepMind 发布论文，提出名为 Decoupled DiLoCo 的分布式训练架构，把训练拆分到相互解耦的计算岛屿（learner unit）并以异步数据流连接，从而把局部硬件故障隔离在系统的一部分。
来源：Google DeepMind · deepmind.google