ディープラーニングの急速な導入により、マルチ GPU システムでは PCle 帯域幅がしばしばボトルネックとなるため、さらに高速でスケーラブルな相互接続に対する需要が高まっています。ディープラーニング ワークロードを拡大するには、劇的に帯域幅を拡大し、遅延を減らす必要があります。
NVIDIA NVSwitch は NVLink の高度な通信機能を基礎にして、この問題を解決します。1 台のサーバーにより多くの GPU を搭載し、GPU 間で全帯域幅で相互接続できる GPU 構造により、ディープラーニングのパフォーマンスがさらに向上します。各 GPU には、 NVLink と NVSwitch の間で 12 の接続が確立され、全方位の高速通信が可能になります。