Mastodawn

Google DeepMind (@GoogleDeepMind)

새로운 분산 AI 모델 학습 방식인 Decoupled DiLoCo를 소개했다. 여러 데이터센터에 걸쳐 고급 AI 모델을 더 탄력적이고 유연하게 학습할 수 있도록 설계된 기술로, 대규모 분산 학습 인프라와 모델 훈련 효율성 개선에 중요한 의미가 있다.

This is Decoupled DiLoCo: our new resilient and flexible way to train advanced AI models across multiple data centres. 🧵

X (formerly Twitter)