Q*Satoshi (@AiXsatoshi)

여러 대의 PC나 Mac을 묶어 모델을 분할하면 메모리 대역폭을 확보할 수 있다는 관찰입니다. 이런 분산 모델 분할이 보편화되면 계산 자원이 전반적으로 부족해질 가능성이 있어 분산 인프라·자원 관리와 효율적인 모델 병렬화 전략이 중요해진다는 시사점을 담고 있습니다.

https://x.com/AiXsatoshi/status/2007665734655324217

#distributed #modelsplitting #mac #pc #computeresources

Q*Satoshi⏩ (@AiXsatoshi) on X

PCやMacを複数束ねるとモデル分割してメモリ帯域幅稼げるし、これが普通になると全ての計算資源足らなくなるよな

X (formerly Twitter)