NVIDIA DGX A100

人工智慧基礎架構通用系統

全球首款以 NVIDIA A100 打造的人工智慧系統

NVIDIA DGX A100 是適用於所有人工智慧工作負載的通用系統,它為全球第一款 5 petaFLOPS 人工智慧系統提供前所未有的運算密度、效能和彈性。NVIDIA DGX A100 搭載全球最先進的加速器 NVIDIA A100 Tensor 核心 GPU 使企業能夠將訓練、推論和分析整合至易於部署的單一人工智慧基礎架構,並支援 NVIDIA 人工智慧專家顧問。

人工智慧資料中心的重要基石

適用於所有人工智慧工作負載的通用系統

適用於所有人工智慧工作負載的通用系統

NVIDIA DGX A100 是一套支援分析、訓練和推論的通用系統,適用於所有人工智慧基礎架構。此系統為運算密度樹立新標準,6U 封裝卻蘊含了 5 petaFLOPS 的人工智慧效能,能以適用所有人工智慧工作負載的單一平台,取代舊有的基礎架構孤島。

DGXperts:整合人工智慧專業知識支援

DGXperts:整合人工智慧專業知識支援

NVIDIA DGXperts 是由超過 14,000 名精通人工智慧技術的專家所組成的全球團隊,以數十年豐富經驗累積協助你將 DGX 產品的投資效益發揮到淋漓盡致。

最快速獲得解決方案

最快速獲得解決方案

NVIDIA DGX A100 是全球第一個搭載 NVIDIA A100 Tensor 核心 GPU 的系統。系統整合了八個 A100 GPU,提供前所未見的加速能力,且徹底針對 NVIDIA CUDA-X 軟體和端對端 NVIDIA 資料中心解決方案堆疊進行最佳化。

無與倫比的資料中心擴充彈性

無與倫比的資料中心擴充彈性

NVIDIA DGX A100 內建 Mellanox 網路,雙向頻寬峰值高達每秒 450 GB。這是支持 DGX A100 成為大型人工智慧叢集基石的眾多功能之一,例如可擴充人工智慧基礎架構的企業藍圖 NVIDIA DGX SuperPOD 即是使用 DGX A100 所打造。

以更簡單、更快速的方式處理人工智慧

以更簡單、更快速的方式處理人工智慧

NVIDIA 人工智慧入門套件可以滿足團隊的所有需求,從世界級人工智慧平台、最佳化應用軟體和工具,再到諮詢服務,讓您得以快速展開人工智慧計畫。別將時間和金錢浪費在打造人工智慧平台上:一天之內即可啟用,一週之內即可定義案例,並可更快開始商品化模型。

  • 開發人員
  • IT 經理
  • 企業領導人
更快速解決更龐大、更複雜的資料科學問題

更快速解決更龐大、更複雜的資料科學問題

優勢

  • 使用可立即執行、經最佳化的人工智慧應用軟體,減少枯燥的設定和測試流程。
  • 運用無與倫比的效能加快迭代速度,在更短的時間內看到更精良的模型。
  • 避免將時間耗費在系統整合與應用軟體工程上。
大規模部署基礎架構與作業化人工智慧

大規模部署基礎架構與作業化人工智慧

優勢

  • 單一系統可一體適用所有人工智慧工作負載,藉此體驗經過簡化的基礎架構設計和功能規劃。
  • 用最少的環境足跡,達到最高的運算密度和效能。
  • 從容器到晶片,充分運用層層內建的安全功能。

 

縮短取得洞見的時間,並加速人工智慧的投資報酬率

縮短取得洞見的時間,並加速人工智慧的投資報酬率

優勢

  • 提高資料科學家的生產力,消除無附加價值的工作。
  • 加速從概念發想到實際生產的開發週期。
  • 諮詢 DGXperts 的意見,排除開發上的阻礙。
  •  

深入瞭解 NVIDIA DGX A100 系統

顛覆以往的效能

分析

PageRank

加速分析代表可取得更深入的洞見以促進人工智慧技術發展

訓練

NLP: BERT-Large

加速訓練可創造最先進的人工智慧模型

推論

PEAK COMPUTE

加速推論可將系統使用率發揮到淋漓盡致

探索 DGX A100 的強大元件

1 8 個 NVIDIA A100 GPU 搭載共 320 GB GPU 記憶體
每個 GPU 使用 12 個 NVLink,GPU 至 GPU 頻寬每秒 600 GB

2 6 個第二代 NVSwitch
雙向頻寬每秒 4.8 TB 比前一代高出 2 倍

3 9 個 Mellanox ConnectX-6 VPI HDR InfiniBand 200Gb/S 網路介面
雙向頻寬峰值高達每秒 450 GB

4 雙 64 核心 AMD CPU 與 1 TB 系統記憶體
核心數量增加 3.2 倍,以驅動最密集的人工智慧工作

5 15 TB 第 4 代 NVME SSD
頻寬峰值高達每秒 25 GB 比第 3 代 NVME SSD 快 2 倍

Data Center

深入瞭解全新 NVIDIA DGX A100.

NVIDIA DGX A100 內含技術

  • A100 GPU
  • 多執行個體 GPU
  • NVLink 和 NVSwitch
  • Mellanox ConnectX-6
  • 最佳化軟體堆疊
  • 安全性

NVIDIA A100 Tensor 核心 GPU

NVIDIA A100 Tensor 核心 GPU 為人工智慧、資料分析和高效能運算 (HPC) 作業提供前所未有的加速能力,以解決全球最嚴苛的運算挑戰。A100 GPU 借助經過大幅效能提升的第三代 NVIDIA Tensor 核心,可以有效率地擴充至高達數千個專門執行個體,或使用多執行個體 GPU,再分配給七個較小的專門執行個體,以加速各種規模的工作負載。

NVIDIA A100 Tensor 核心 GPU

多執行個體 GPU (MIG)

MIG 讓 DGX A100 中的八個 A100 GPU 最多能設定成 56 個 GPU 執行個體,各自完全獨立且具備個別的高頻寬記憶體、快取和運算核心。這讓管理員可以憑藉適中的 GPU 確保多重工作負載的服務品質 (QoS)。

多執行個體 GPU (MIG)

新一代 NVLink 和 NVSwitch

DGX A100 中搭載的第三代 NVIDIA® NVLink® 將 GPU 對 GPU 的直接頻寬加倍至每秒 600 GB,幾乎是 PCIe 第 4 代的 10 倍。DGX A100 還搭載新一代的 NVIDIA NVSwitch™,速度比前一代快達 2 倍。

新一代 NVLink 和 NVSwitch

Mellanox ConnectX-6 VPI HDR InfiniBand

DGX A100 採用最新的 Mellanox ConnectX-6 VPI HDR InfiniBand/乙太網路轉接器,分別能以每秒 200 GB 的速度執行,為大規模人工智慧工作負載打造高速網狀架構。

Mellanox ConnectX-6 VPI HDR InfiniBand

最佳化軟體堆疊

DGX A100 整合通過測試的最佳化 DGX 軟體堆疊,包含由人工智慧微調的基礎作業系統、所有必要的系統軟體,和 GPU 加速應用程式、預先訓練的模型以及更多由 NGC 提供的資源。

DGX Software Stack

內建安全功能

DGX A100 為人工智慧部署提供最穩固的安全設計,透過多層次方式保護所有主要硬體和軟體元件,包含自行加密的磁碟、經過簽署的應用軟體容器、安全管理和監控等。

內建安全功能

瞭解 NVIDIA DGX 系統的企業級支援

NVIDIA DGX SuperPOD

人工智慧基礎架構領導品牌

購買 NVIDIA DGX 系統

瞭解 NVIDIA DGX 系統