NVIDIA DOCA 微服務

NVIDIA DOCA 軟體平台

在 NVIDIA BlueField 與 ConnectX 上加速、保護並擴充代理 AI 基礎架構。

概覽

NVIDIA DOCA 是什麼?

NVIDIA DOCA™ 是統一軟體平台,釋放 NVIDIA® BlueField® DPUNVIDIA® ConnectX® SuperNIC™ 的全部潛力,用於代理 AI 基礎架構。 它提供 SDK、函式庫、正式環境就緒的微服務與協調框架,用於大規模建置並營運加速基礎架構服務,包括網路、AI 原生儲存、執行階段安全機制、遙測與生命週期管理。

NVIDIA 推出由 DOCA 驅動的代理 AI 安全設計儲存機制

採用 DOCA 的 NVIDIA Vera BlueField‑4 STX 為代理 AI 定義全新安全設計儲存機制,保護資料、代理程式與記憶。

BlueField‑4 STX:適用於代理 AI 的 DOCA 驅動安全儲存機制

DOCA 在 BlueField-4 STX 上提供內聯代理程式、資料與記憶保護機制,確保代理 AI 以基礎架構的速度安全無虞。

圖表

NVIDIA DOCA 軟體平台

NVIDIA DOCA 提供基礎架構團隊所需的微服務、函式庫與管理工具,協助加速網路、實施執行階段安全機制、管理 AI 原生儲存,以及保護 NVIDIA BlueField 與 NVIDIA ConnectX 上的代理 AI 工作負載。

優勢

專為代理 AI 基礎架構的需求而打造

NVIDIA DOCA 為開發人員與建置商提供軟體建置塊,協助他們在 NVIDIA BlueField 與 NVIDIA ConnectX 上打造加速且差異化的基礎架構服務。 簡化開發、加速部署、擴展創新能力,並跨越主機、網路與資料路徑,提供深度可程式化、可觀測性與生命週期管理。

加速開發

透過企業 API、參考應用程式與現成可用的微服務,加速上市時間與創新,涵蓋網路、安全、儲存、遙測與基礎架構協調。

在任何地方部署

為 BlueField 與 ConnectX 建立應用程式,並透過原生 Kubernetes 整合、一致營運與隨選擴充性,輕鬆跨企業、雲端與邊緣環境部署。

提升效能

在 BlueField 和 ConnectX 上,透過專為網路、安全性與資料處理而打造的引擎進行硬體加速,提供軟體定義的控制能力。

讓您的基礎架構跟上未來需求

建置一次後,在 BlueField 與 ConnectX 世代之間流暢移動,同時獲得全新硬體效能的優勢。

工作負載

驅動代理 AI 工廠作業系統的軟體平台

NVIDIA DOCA 為營運 AI 工廠提供軟體基礎,讓開發人員能夠打造智慧、安全且高效能的基礎架構服務,在複雜的分散式環境中無限擴展。

入門選項

開始使用 NVIDIA DOCA 的方式

無論您是評估基礎架構平台、試行全新使用案例,還是擴展至全面正式環境部署,NVIDIA DOCA 都能為加速且安全的 AI 基礎架構提供清晰路徑。

下載與建置

下載 NVIDIA DOCA SDK,並存取 API、函式庫與範例應用程式,開始在 BlueField 與 ConnectX 上建置。

整合

從 NVIDIA NGC 中擷取預先建置的 DOCA 容器,在您的環境中快速部署可配置的基礎架構微服務。

查閱文件

探索完整的 DOCA 文件庫,包括 SDK 指南、API 參考以及 BlueField 與 ConnectX 的版本資訊。

在生產環境中部署

使用 NVIDIA AI Enterprise 支援的 DOCA,實現生產就緒的企業級 BlueField 大規模部署。

DOCA 開發人員日回顧

掌握最新的 DOCA 演講內容,涵蓋網路、儲存與網路安全。

建置商

打造全球 AI 基礎架構

從超大規模雲端供應商到資料中心基礎架構與網路安全創新者,全球領先組織採用 NVIDIA DOCA 技術,打造高效能軟體平台,滿足客戶所需的效能、安全性與規模。

資源

NVIDIA DOCA 最新資源

探索演講、部落格與影片,深入瞭解 DOCA 微服務、函式庫與加速 AI 基礎架構。

NVIDIA DOCA 軟體框架

看看 NVIDIA DOCA 的一分鐘介紹,瞭解如何從內到外保護您的 AI 工廠。

使用 NVIDIA BlueField DPU 配置主機型防火牆

瞭解 NVIDIA BlueField 上的一個配置如何將您的防火牆置於攻擊者無法觸及之處,直接整合在晶片中且獨立於主機。

常見問題

NVIDIA DOCA 常見問題

NVIDIA DOCA 平台是統一的軟體基礎,專為釋放 NVIDIA BlueField DPU 與 NVIDIA ConnectX SuperNIC 的全部潛力,用於代理 AI 基礎架構而設計。它提供微服務、函式庫、驅動程式與協調框架,用於打造並營運加速的代理 AI 工廠。

資料處理器 (DPU) 是一類可程式化的處理器,專為從伺服器的主要 CPU 卸載、加速並隔離資料為中心的任務,例如網路、安全與儲存。 NVIDIA DOCA 是釋放 DPU 完整功能的軟體框架,類似於 CUDA® 如何實現 GPU 的程式設計。

SuperNIC 這款專用網路加速器,專為滿足代理 AI 工廠中高速且苛刻的 AI 工作負載網路需求而設計。 SuperNIC 與專為通用運算設計的傳統 NIC 不同,專為加速數千個 GPU 之間的資料傳輸而打造,防止大規模 AI 訓練與推論期間出現瓶頸。

DOCA 是具備三個不同層級的完整軟體平台。 DOCA 微服務是生產就緒的容器化基礎架構服務,例如 DOCA Argus 與 DOCA SNAP,可從 NVIDIA NGC 擷取並直接部署,無需自訂開發。DOCA 函式庫是可編程 API,讓開發人員直接存取 BlueField 硬體功能,例如封包處理、擁塞控制與 GPU 網路,用於建置自訂的高效能基礎架構服務。 DOCA 驅動程式提供基礎網路、安全與儲存介面,將平台連接至 BlueField 與 ConnectX 硬體。

DOCA 平台框架 (DPF) 是 Kubernetes 原生協調框架,可將 BlueField DPU 作為 Kubernetes 節點進行佈建、管理和擴充。 它在 DPU 機群中自動執行韌體更新、生命週期管理與 DOCA 服務部署,讓平台團隊能使用與其餘基礎架構相同的工具管理數千個 DPU,而無需直接進行硬體程式設計。

DOCA 支援兩種部署途徑。 對於預先建置的服務,DOCA 微服務以 NVIDIA NGC 上的容器形式提供,並可透過標準容器協調工具直接部署至正式環境。 對於自訂開發,DOCA SDK 提供在 BlueField 與 ConnectX 上建置並部署自訂服務所需的函式庫、驅動程式與 API。 DPF 提供 Kubernetes 原生協調層,用於在正式基礎架構中佈建、管理並擴充 DPU 機群。

DOCA 為 BlueField DPU 與 ConnectX SuperNIC 提供多代支援,確保現已建置的應用程式在未來的硬體世代上執行,並具備提升效能優勢,而無需變更程式碼。

後續步驟

準備好利用 DOCA 革新您的基礎架構了嗎?

無論您是為組織評估 NVIDIA DOCA、在 BlueField 上部署微服務,還是打造自訂應用程式,NVIDIA 都能為您提供入門途徑。

與 NVIDIA DOCA 專家會談

與 NVIDIA 網路專家交流,討論您的 AI 基礎架構使用案例,並獲得指導,協助您將 DOCA 整合至堆疊。

隨時掌握 DOCA 社群的最新消息

透過 Feed 取得最新的 NVIDIA DOCA 版本說明、開發人員部落格與活動公告。