NVIDIA Minerva AI 工廠基礎架構

NVIDIA Minerva

用於最大化 AI 工廠良率的 AI 原生 AIOps 平台。

概覽

革新 AI 工廠營運

NVIDIA Minerva™ 是 NVIDIA AI 工廠的主要可觀測性解決方案。 AI 原生端到端 AIOps 平台,專為最大化 AI 工廠基礎架構堆疊的可用性與效能而打造。

作為完整堆疊 NVIDIA Vera Rubin 平台的一環,NVIDIA Minerva 從 NVIDIA GPU、Spectrum-X™ 乙太網路、NVLink™ 交換器、SuperNIC、DPU、排程器 (例如 Slurm 與 NVIDIA Run:ai) 以及 AI 工作負載接收遙測。動態知識圖譜、機器學習 (ML) 與代理 AI 提供即時異常偵測、自動執行根本原因分析與閉環修復。 AI 工廠從被動式維護轉為主動式維護,加快代理式偵錯速度並降低警示噪音。

NVIDIA 推出 NVIDIA Minerva,為 AI 工廠帶來端到端的可觀測性

瞭解全新 AIOps 平台如何串連基礎架構與工作負載遙測,協助營運商延長正常運作時間並最大化 AI 工廠的良率。

運用 NVIDIA Minerva 駕馭 AI 工廠的複雜性

探索雲端供應商 IREN 如何透過 NVIDIA Minerva 的 AI 原生觀測性平台,最大化 AI 工廠的良率。

NVIDIA AI 工廠的 AIOps 觀測性解決方案

NVIDIA Minerva 可關聯分析橫跨 NVIDIA 運算、網路與完整堆疊 AI 軟體產品的遙測資料。

NVIDIA AI 工廠

最大化 NVIDIA Vera Rubin 平台的韌性與效能。

作為完整堆疊 NVIDIA Vera Rubin 平台的一環,NVIDIA Minerva 能將來自運算與 NVLink 交換的完整堆疊遙測資料,轉化為主動式維護、代理式偵錯與閉環修復。如此可保護 GPU 工作時間、叢集正常運作時間與 token 產量,最大化 AI 工廠的良率。

NVIDIA AI 工廠

NVIDIA DSX OS

將可觀測性整合至 DSX 堆疊的營運與管理。

NVIDIA Minerva Collector 是 NVIDIA DSX OS 的一環,提供從 GPU 到電網的單一視圖,具備與設施級訊號相關且符合參考架構的遙測技術。 客戶可在 DSX OS 中加入 NVIDIA Minerva 的 AI/ML 洞察,或獨立運作,以最大化 AI 工廠的良率。

NVIDIA DSX OS

NVIDIA Spectrum-X 乙太網路

運用高頻遙測實現端到端網路可觀測性。

NVIDIA Minerva 結合 Spectrum-X 乙太網路交換器、SuperNIC、NVIDIA Collective Communications Library (NCCL)、排程器等的高頻遙測,確保 AI 架構維持健康,最佳化效能與正常運作時間,以支援千兆級代理式推論。

Spectrum-X 乙太網路平台

特色與優點

提升基礎架構利用率,實現更多 AI 傳輸量

維持 AI 工廠的全效率運作,以最大化良率、加速模型訓練與推論,並提升 token 產量。

最大化運算可用性

可付諸行動的智慧洞察,能回收原本會因未被偵測到的故障而損失的 GPU 時數。

從被動式反應到主動式預防

在即將發生的故障與效能衰退導致訓練任務中斷之前,即予以偵測攔截。

降低營運噪音

進階降噪技術將事件風暴轉化為可採取行動的警示。

靈活部署

提供從 DIY 到完整的一站式部署選項,以配合貴組織的需求。

預測性維護

自動預測性維護可增加平均中斷間隔時間 (MTBI)。

根本原因分析

針對落後節點與失敗任務的根本原因分析,可加速復原並縮短平均修復時間 (MTTR)。

整合式檢視

跨硬體、排程器與工作負載的即時遙測,提供單一管理面板來診斷問題。

更多 GPU 時數

更多有效的 GPU 小時可提升 token 產能,縮短訓練時間。

功能

AI 工廠的完整堆疊智慧

在單一動態的即時視圖中關聯跨基礎架構與工作負載的遙測。

從硬體到工作負載的端到端可見性

NVIDIA Minerva 是 DGX OS 堆疊的一環,將遙測關聯至 GPU、SuperNIC、DPU、交換器、網路、NCCL、Slurm 和其他排程器,以及 AI 工作負載。 NVIDIA Minerva 的動態知識圖譜即時對應基礎架構與作業,將個別硬體異常與受其影響的工作負載連結。

內建 AI 智慧,連接至您的工具

專用機器學習每小時可分析數十億個資料點,以瞭解正常行為、預測異常,並在堆疊中關聯事件。 NVIDIA Sherlock 是 NVIDIA Minerva 的多代理 AI 工廠助理,運用即時遙測協助維運人員以自然語言進行分類與疑難排解,將專家級的洞察帶給每一位維運人員。 模型情境協定 (MCP) 伺服器讓 NVIDIA Minerva 與客戶代理整合。

客製化部署模型

NVIDIA Minerva 提供一站式平台,同時透過開放 API、模組化功能與 Grafana 整合,維持靈活性。 在本地部署或作為軟體即服務 (SaaS) 部署,擴展至數十萬個 GPU,並維持資料主權。 與 NVIDIA DSX 整合,提供從 GPU 到電網的統一檢視畫面。

產品

NVIDIA Minerva 的運作方式

從 AI 工廠每一層收集遙測資料,並運用 ML 異常偵測與關聯技術,實現可付諸行動的智慧。資料與洞察會與 NVIDIA Minerva 的使用者介面及 AI 代理整合,同時也能與外部可觀測性平台及代理程式整合。

使用案例

專為 AI 工廠打造的 AIOps

驗證基礎架構、調查作業與叢集問題、降低噪音,並在干擾影響輸出前先行預防。

主動式維護

NVIDIA Minerva 運用即時 ML 型異常偵測技術,在基礎架構問題影響正式環境之前找出問題。 透過持續監控完整的 AI 工廠堆疊,並將數十億個遙測資料點提煉為高擬真且可採取行動的警示,NVIDIA Minerva 為營運團隊提供所需的事先警告,讓他們自信地採取行動。

這種從被動疑難排解轉向主動式維護的做法降低了MTTR,避免損失數百個 GPU 小時,並維持 AI 工作負載以最佳效能執行。

代理式偵錯

NVIDIA Minerva 為 AI 工廠實現代理式、全拓撲的根本原因分析。 它同時具備名為 Sherlock 的原生 AI 偵錯助理,以及透過 MCP 與其他 AI 代理 (如 OpenClaw) 的整合。 這些功能共同發揮作用,可無縫整合至現有營運工作流程。

無需手動篩選記錄與儀表板,維運人員即可透過自然語言提問,獲得直接且可採取行動的答案,瞭解 AI 工廠的實際情況。

完整堆疊相關性

AI 工廠涵蓋大量相互連結的系統,包括 GPU 節點、NVLink 架構、Spectrum-X 乙太網路、工作排程器、Slurm 等工作負載管理器,以及執行中的工作負載。 問題發生時,根本原因可能源於某一層,卻在另一層呈現為徵兆。 

透過即時吸收完整堆疊遙測資料,並運用基於 ML 的拓撲感知關聯技術,NVIDIA Minerva 揭示了重要關係:網路異常如何影響 GPU 利用率,以及排程器事件如何導致作業傳輸量下降。

營運團隊可獲得 AI 工廠的單一整合檢視,不必再使用會導致跨層偵錯緩慢且成本高昂的分散式孤立工具。

降低噪音

警示性疲勞是 AI 工廠營運中最被低估的成本之一。 遍及數百個元件的網路問題可能會產生數千個警示。 NVIDIA Minerva 運用拓撲感知關聯技術,對應 AI 工廠的相依關係,並將相關事件整合為單一、具脈絡的事件。NVIDIA Minerva 將這些警示提煉為單一、精確且優先排序的訊號,並透過 Slack 或 ServiceNow 等工具提供可採取行動的情境。

團隊減少用於分類警示的時間、更快診斷問題,並專注於影響最大的營運問題。

網路可觀測性

NVIDIA Minerva 是 NVIDIA AI 工廠的主要網路可觀測性解決方案。 NVIDIA Minerva 包含專為 Spectrum-X 乙太網路、NVLink 擴充架構、硬體健康與服務打造的、開箱即用的儀表板與警示。 儀表板與 NVIDIA 參考架構保持一致,為營運團隊提供最佳實務可見性。 

與 DSX OS 整合可進一步擴展此功能,讓 NVIDIA Minerva 能在更廣泛的 DSX 生態系統中共享元件、資料模型與營運情境。

消費模型

透過靈活消費模型部署 NVIDIA Minerva

針對 NVIDIA Minerva 的資料收集器、即時異常偵測與 AI 功能,可從 DIY 自行建置到完全一站式的多種配置中,選擇最符合貴組織工作流程的方案。

DIY 觀測性

使用 NVIDIA Minerva 作為 AI 工廠基礎架構的資料收集器,並將其輸入 Grafana 等外部可觀測性解決方案。

具備 DIY 可觀測性的 AIOps

使用 NVIDIA Minerva 進行 AI 工廠資料收集,同時新增 AI/ML、異常偵測與關聯洞察,將這些洞察回饋至外部可觀測性解決方案,以及 OpenClaw 與 Claude 等代理 AI 工具。

一站式解決方案

善用 NVIDIA Minerva 作為完整的 AIOps 平台,結合資料收集與洞察,並整合內建的 AI 代理與全方位可觀測性工具。

資源

深入瞭解 NVIDIA Minerva

NVIDIA Minerva 網路研討會

探索雲端供應商 IREN 如何透過 NVIDIA Minerva 的 AI 原生觀測性平台,最大化 AI 工廠的良率。

NVIDIA Minerva 資料表

深入瞭解 NVIDIA Minerva 的功能,以及如何使用全新 AIOps 平台。

NVIDIA Minerva 技術文件

深入瞭解如何使用 NVIDIA Minerva。

NVIDIA Minerva 常見問答集

NVIDIA Minerva 是一款 AI 原生 AIOps 平台,可關聯基礎架構與工作負載遙測,提供跨運算、網路、儲存與 AI 工作負載完整堆疊的觀測能力,並將其轉化為洞察,以供主動或自動採取行動。

NVIDIA Minerva 從 NVIDIA 基礎架構、網路、排程器與工作負載遙測收集資料。 這種完整堆疊的情境能將異常介面與 AI 工作關聯起來,協助業者找出可能因通用工具與孤立點解決方案而遺漏的根本原因。

NVIDIA Minerva 是 NVIDIA AI 工廠、NVIDIA Vera Rubin 與 NVIDIA Blackwell 的主要網路觀測性解決方案。 它涵蓋支援 scale-out、scale-across 與 scale-in 的 NVIDIA Spectrum-X 乙太網路、用於 scale-up 的 NVIDIA NVLink、Slurm 與其他排程器,以及 AI 工作負載。

NVIDIA Minerva 可部署於內部,或從 NVIDIA 雲端以 SaaS 形式使用。 它支援多種使用模式 (從 DIY 到完整的一站式解決方案),以適應現有的 AI 工廠工作流程。

NVIDIA Minerva 透過標準,包括 OpenTelemetry、gNMI、syslog、DCGM、Slurm 與 JSON,採集運算、網路、儲存、排程、NCCL 與工作負載遙測。 它與 Slack、Microsoft Teams、PagerDuty、ServiceNow、Grafana、Ansible 與基礎架構 API 整合。

NVIDIA Minerva 運用專用的 AI/ML 學習正常行為、預測異常行為、關聯事件,並推薦補救措施。 原生 AI 助理透過即時遙測實現自然語言分類,而其 MCP 伺服器則將 NVIDIA Minerva 與第三方代理工具串連。

NVIDIA Minerva 重複使用 DSX OS 的元件,同時 NVIDIA Minerva 的關鍵功能 (首先從 NVIDIA Minerva Collector 開始) 將在 DSX OS 中開源,從而打造模組化的可觀測性基礎。

後續步驟

獲得 NVIDIA 網路軟體免費試用版

利用 NVIDIA DSX Air 模擬完全自動化的網路拓撲。

探索 AI 時代的網路技術

網路是 AI 效能最終的決定因素,作為資料中心的核心架構,必須充分發揮生成式 AI 的強大威力。

瞭解 Spectrum-X 乙太網路平台

Spectrum-X 乙太網路平台是專為提升乙太網路 AI 基礎架構的效能和效率而設計。