NVIDIA Quantum InfiniBand 交換器與設備

InfiniBand 是一種高效能互連標準，專為運算節點之間的低延遲高頻寬通訊而打造。AI 訓練與 HPC 工作負載在數百或數千顆 GPU 分散運算，網路延遲會直接影響作業完成時間。NVIDIA Quantum InfiniBand 也是唯一支援網路內運算的互連平台，將 AllReduce 等集體運算卸載至交換器網狀架構本身，讓 GPU 週期可用於實際運算。

傳統交換器設計採用可插拔的光學收發器，將交換器 ASIC 連接至光纖。每顆收發器都是分離式元件，不僅會消耗電力、產生熱能，還有故障風險。就叢集規模而言，這意味著在部署的生命週期中，需要管理與更換的收發器高達數千顆。

NVIDIA Quantum-X InfiniBand Photonics 交換器將光學引擎直接整合至交換晶片，完全不需要可插拔收發器。這縮短了晶片與光纖之間的電性路徑，功耗與延遲隨之降低，同時減少了分離式元件數量，可靠性更高，長期營運化繁為簡。

網路內運算是 NVIDIA Quantum 交換器可在網路架構內執行資料處理作業的能力，過程不需要主機 CPU 或 GPU。NVIDIA SHARP 則是將 AllReduce 等集體作業直接卸載至交換器的關鍵能力。對於分散式 AI 訓練，這項能力可縮短節點間通訊耗費的時間，並釋放 GPU 週期供運算使用。SHARP 可在多數平行模擬程式碼的核心加速集體作業，降低延遲與 CPU 額外負荷。運用 NCCL、OpenMPI、UCX 或其他符合標準的 MPI 堆疊的應用程式，程式碼幾乎不太需要變更就能獲得效益，讓網路內運算廣泛適用於各大領域，包括 AI 訓練、分子動力學和氣候建模。

對於全新大規模 AI 部署，NVIDIA Quantum-X800 InfiniBand 是最佳選擇。它提供 800Gb/s XDR 連線能力，專為新一代 AI 工廠而設計，能滿足需要極致向外擴充頻寬、低延遲、自適應路由、壅塞控制，以及適用於 AI 與 HPC 集體作業之 SHARP 網路內運算的需求。Quantum-2 NDR 400Gb/s 仍然是 Hopper 世代或成本最佳化部署強大的首選方案，但對於全新的 Blackwell 規模叢集，Quantum-X800 則提供了最佳的長期效能擴充潛力。Q3200 是 Quantum-X800 2U 氣冷交換器平台，非常適合需要高連接埠密度與實用遷移路徑的大型環境或混合世代環境。

NVIDIA Unified Fabric Manager (UFM) 是 NVIDIA Quantum InfiniBand 部署的網狀架構管理平台。UFM (以整合式設備及獨立軟體形式提供) 負責處理網狀架構佈建、即時監測、診斷，以及主動式疑難排解。NVIDIA UFM Cyber-AI 是一款專用設備，可偵測可能意味著安全威脅或硬體問題的異常網路行為，以免作業受到影響。

對於正在擴充現有叢集或分階段建置的組織，這是很常見的考量因素。一般而言，NVIDIA Quantum InfiniBand 專為向前相容性而設計：運作於不同 InfiniBand 世代的網卡與交換器，會自動協商並切換至適當的共同速度。對於需要連接 Quantum-X800 (XDR, 800 Gb/s) 與 Quantum-2 (NDR, 400 Gb/s) 環境的部署，NVIDIA 建議使用 Q3200 這款專為橋接這兩代產品而打造的多速交換器。NVIDIA InfiniBand 交換器說明文件涵蓋使用 Q3200 的拓撲、連接埠對應與網狀架構配置的具體設計考量。

是。NVIDIA Skyway™ 設備專為這種使用案例設計，提供 InfiniBand 轉乙太網路的閘道器。Skyway 讓 InfiniBand 運算叢集能與乙太網路附加儲存系統、管理網路或其他乙太網路基礎設施通訊，而且無須變更任何環境。企業可部署多台 Skyway 設備，並隨著跨網狀架構頻寬需求增長逐步擴充。