マルチGPUトレーニング

NCCL

マルチGPUの集合通信に最適化されたNVIDIAライブラリで、NVLinkとネットワーク経由でall-reduce、broadcast、gatherなどの高性能な操作を提供します。

← 戻る