適用於資料科學團隊的人工智慧超級運算
雖然資料科學團隊擁有尖端創新技術,但也經常需要尋找可用的人工智慧運算週期來完成專案。他們需要專屬資源,以便為多個同時使用的使用者提供最高效能。NVIDIA DGX Station™ A100 為資料科學團隊帶來人工智慧超級運算,不需要資料中心或另外購買 IT 設備,就能提供資料中心技術。因為具備強大的效能、完全最佳化的軟體堆疊,且可以直接聯繫 NVIDIA DGXperts,便能縮短取得深入分析的時間。
有了 DGX Station A100,組織可以使用與其他 NVIDIA DGX™ 基礎架構流暢整合的系統,為多位使用者提供集中化人工智慧資源,且適用於所有工作負載,包括訓練、推論和資料分析。另外,有了多執行個體 GPU (MIG),每位使用者最多可以分配到 28 個獨立的 GPU 裝置。
DGX Station A100 是一種伺服器等級的人工智慧系統,但不需要資料中心的能源和冷卻技術。此系統包含四個 NVIDIA A100 Tensor 核心 GPU、最高伺服器等級的 CPU、超高速的 NVMe 儲存空間,以及頂尖的第四代 PCIe 匯流排,更配備遠端管理功能,可作為伺服器一樣管理。
DGX Station A100 專為現今在企業辦公室、實驗室、研究機構或甚至在家工作,具備高靈活度的資料科學團隊而設計,不需要複雜的安裝流程,或花大錢投資 IT 設備。不論身在何處,只要直接插入任何標準的牆上插座,就可以在幾分鐘內開始工作。
NVIDIA DGX Station A100 是全球唯一搭載四個完全互連且支援 MIG 的 NVIDIA A100 GPU、形式為工作站的系統,可利用 NVIDIA® NVLink® 在不影響系統效能的情況下,執行平行作業和支援多位使用者。使用完全經 GPU 最佳化的軟體堆疊及高達 320 GB 的 GPU 記憶體來訓練大型模型。
深度學習資料集變得越來越大,也變得更複雜,且對話式人工智慧、推薦系統和電腦視覺等工作負載在各產業中也變得日益普及。NVIDIA DGX Station A100 採用整合式軟體堆疊,與 PCIe 工作站相比,可在複雜的人工智慧模型上,以最短時間提供解決方案。
因為推論工作負載會利用所有可用的運算資源,且需要可擴充、靈活又有彈性的基礎架構,所以通常會部署在資料中心內。在部署到資料中心前,NVIDIA DGX Station A100 非常適合用於本機測試推論效能和成果,因為像 MIG 這類的整合式技術可以加速推論工作負載,並提供活用人工智慧所需的最高輸送量和即時反應速度。
企業每天都會產生並收集非常大量的資料。面對如此龐大的資訊量,若沒有使用 GPU 加速式分析,就有可能錯失機會。擁有越多資料,就能瞭解越多內容。NVIDIA DGX Station A100 可以讓資料科學團隊以前所未有的速度,從資料中產出可用的深入分析。
高效能運算 (HPC) 是推動科學進步最重要的工具之一。NVIDIA GPU 是現代高效能運算資料中心的引擎,可最佳化超過 700 個各種領域的應用程式。DGX Station A100 搭載了四個 NVIDIA A100 Tensor 核心 GPU,非常適合讓開發人員在部署高效能運算叢集前測試科學工作負載,並在辦公室或甚至在家中達到突破性效能。
高效能訓練可加速生產力,可在更短的時間內獲得深入分析並推出優異產品。
第 1 階段 BERT 大規模預先訓練
快了 3 倍以上
DGX Station A100 320GB; Batch Size=64; Mixed Precision; With AMP; Real Data; Sequence Length=128
BERT 大規模推論
快了 4 倍以上
DGX Station A100 320GB; Batch Size=256; INT8 Precision; Synthetic Data; Sequence Length=128, cuDNN 8.0.4
ResNet-50 V1.5 訓練
線性可擴張性
DGX Station A100 320GB; Batch Size=192; Mixed Precision; Real Data; cuDNN Version=8.0.4; NCCL Version=2.7.8; NGC MXNet 20.10 Container
麻省總醫院與布萊根婦女醫院的臨床資料科學中心 (MGH & BWH Center for Clinical Data Science) 運用 DGX Station 支援生成對抗網路 (GAN),打造出合成的大腦 MRI 影像,讓團隊在訓練神經網路時,所需的資料量大幅減少。DGX Station 可作為專屬的人工智慧資源使用,讓放射師能夠繼續進行專案。
瑞士聯邦鐵路 (SBB) 擁有 15,000 輛火車,每日提供 1200 萬班車次。DGX Station 的強大功能可在鐵路軌道中達到更準確且自動化的故障偵測,並縮短現場檢查時間。DGX Station 中的最佳化人工智慧軟體讓工程師能夠專注在收集正確的資料,而不是測試和設定元件。
Avitas 系統透過採用人工智慧的機器人,能夠以驚人的準確度偵測出腐蝕、漏油和其他人眼難以察覺的瑕疵,並檢查人類無法觸及的地方。機器人使用在資料中心的 NVIDIA DGX 伺服器上開發的深度神經網路,並輕鬆地延伸到其領域中的 NVIDIA DGX Station,以便在距離資料產生位置最近的地方進行推論。
聯絡我們以了解更多
隱私權政策