作為完整堆疊 NVIDIA Vera Rubin 平台的一環,NVIDIA Minerva 能將來自運算與 NVLink 交換的完整堆疊遙測資料,轉化為主動式維護、代理式偵錯與閉環修復。如此可保護 GPU 工作時間、叢集正常運作時間與 token 產量,最大化 AI 工廠的良率。
NVIDIA Minerva
用於最大化 AI 工廠良率的 AI 原生 AIOps 平台。
概覽
革新 AI 工廠營運
NVIDIA Minerva™ 是 NVIDIA AI 工廠的主要可觀測性解決方案。 AI 原生端到端 AIOps 平台,專為最大化 AI 工廠基礎架構堆疊的可用性與效能而打造。
作為完整堆疊 NVIDIA Vera Rubin 平台的一環,NVIDIA Minerva 從 NVIDIA GPU、Spectrum-X™ 乙太網路、NVLink™ 交換器、SuperNIC、DPU、排程器 (例如 Slurm 與 NVIDIA Run:ai) 以及 AI 工作負載接收遙測。動態知識圖譜、機器學習 (ML) 與代理 AI 提供即時異常偵測、自動執行根本原因分析與閉環修復。 AI 工廠從被動式維護轉為主動式維護,加快代理式偵錯速度並降低警示噪音。
NVIDIA AI 工廠的 AIOps 觀測性解決方案
NVIDIA Minerva 可關聯分析橫跨 NVIDIA 運算、網路與完整堆疊 AI 軟體產品的遙測資料。
NVIDIA AI 工廠
最大化 NVIDIA Vera Rubin 平台的韌性與效能。
NVIDIA DSX OS
將可觀測性整合至 DSX 堆疊的營運與管理。
NVIDIA Spectrum-X 乙太網路
運用高頻遙測實現端到端網路可觀測性。
特色與優點
提升基礎架構利用率,實現更多 AI 傳輸量
維持 AI 工廠的全效率運作,以最大化良率、加速模型訓練與推論,並提升 token 產量。
最大化運算可用性
可付諸行動的智慧洞察,能回收原本會因未被偵測到的故障而損失的 GPU 時數。
從被動式反應到主動式預防
在即將發生的故障與效能衰退導致訓練任務中斷之前,即予以偵測攔截。
降低營運噪音
進階降噪技術將事件風暴轉化為可採取行動的警示。
靈活部署
提供從 DIY 到完整的一站式部署選項,以配合貴組織的需求。
預測性維護
自動預測性維護可增加平均中斷間隔時間 (MTBI)。
根本原因分析
針對落後節點與失敗任務的根本原因分析,可加速復原並縮短平均修復時間 (MTTR)。
整合式檢視
跨硬體、排程器與工作負載的即時遙測,提供單一管理面板來診斷問題。
更多 GPU 時數
更多有效的 GPU 小時可提升 token 產能,縮短訓練時間。
功能
AI 工廠的完整堆疊智慧
在單一動態的即時視圖中關聯跨基礎架構與工作負載的遙測。
產品
NVIDIA Minerva 的運作方式
從 AI 工廠每一層收集遙測資料,並運用 ML 異常偵測與關聯技術,實現可付諸行動的智慧。資料與洞察會與 NVIDIA Minerva 的使用者介面及 AI 代理整合,同時也能與外部可觀測性平台及代理程式整合。
使用案例
專為 AI 工廠打造的 AIOps
驗證基礎架構、調查作業與叢集問題、降低噪音,並在干擾影響輸出前先行預防。
-
主動式維護
-
代理式偵錯
-
完整堆疊相關性
-
降低噪音
-
網路可觀測性
主動式維護
NVIDIA Minerva 運用即時 ML 型異常偵測技術,在基礎架構問題影響正式環境之前找出問題。 透過持續監控完整的 AI 工廠堆疊,並將數十億個遙測資料點提煉為高擬真且可採取行動的警示,NVIDIA Minerva 為營運團隊提供所需的事先警告,讓他們自信地採取行動。
這種從被動疑難排解轉向主動式維護的做法降低了MTTR,避免損失數百個 GPU 小時,並維持 AI 工作負載以最佳效能執行。
代理式偵錯
NVIDIA Minerva 為 AI 工廠實現代理式、全拓撲的根本原因分析。 它同時具備名為 Sherlock 的原生 AI 偵錯助理,以及透過 MCP 與其他 AI 代理 (如 OpenClaw) 的整合。 這些功能共同發揮作用,可無縫整合至現有營運工作流程。
無需手動篩選記錄與儀表板,維運人員即可透過自然語言提問,獲得直接且可採取行動的答案,瞭解 AI 工廠的實際情況。
完整堆疊相關性
AI 工廠涵蓋大量相互連結的系統,包括 GPU 節點、NVLink 架構、Spectrum-X 乙太網路、工作排程器、Slurm 等工作負載管理器,以及執行中的工作負載。 問題發生時,根本原因可能源於某一層,卻在另一層呈現為徵兆。
透過即時吸收完整堆疊遙測資料,並運用基於 ML 的拓撲感知關聯技術,NVIDIA Minerva 揭示了重要關係:網路異常如何影響 GPU 利用率,以及排程器事件如何導致作業傳輸量下降。
營運團隊可獲得 AI 工廠的單一整合檢視,不必再使用會導致跨層偵錯緩慢且成本高昂的分散式孤立工具。
降低噪音
警示性疲勞是 AI 工廠營運中最被低估的成本之一。 遍及數百個元件的網路問題可能會產生數千個警示。 NVIDIA Minerva 運用拓撲感知關聯技術,對應 AI 工廠的相依關係,並將相關事件整合為單一、具脈絡的事件。NVIDIA Minerva 將這些警示提煉為單一、精確且優先排序的訊號,並透過 Slack 或 ServiceNow 等工具提供可採取行動的情境。
團隊減少用於分類警示的時間、更快診斷問題,並專注於影響最大的營運問題。
網路可觀測性
NVIDIA Minerva 是 NVIDIA AI 工廠的主要網路可觀測性解決方案。 NVIDIA Minerva 包含專為 Spectrum-X 乙太網路、NVLink 擴充架構、硬體健康與服務打造的、開箱即用的儀表板與警示。 儀表板與 NVIDIA 參考架構保持一致,為營運團隊提供最佳實務可見性。
與 DSX OS 整合可進一步擴展此功能,讓 NVIDIA Minerva 能在更廣泛的 DSX 生態系統中共享元件、資料模型與營運情境。
消費模型
透過靈活消費模型部署 NVIDIA Minerva
針對 NVIDIA Minerva 的資料收集器、即時異常偵測與 AI 功能,可從 DIY 自行建置到完全一站式的多種配置中,選擇最符合貴組織工作流程的方案。
資源
深入瞭解 NVIDIA Minerva
NVIDIA Minerva 常見問答集
NVIDIA Minerva 是一款 AI 原生 AIOps 平台,可關聯基礎架構與工作負載遙測,提供跨運算、網路、儲存與 AI 工作負載完整堆疊的觀測能力,並將其轉化為洞察,以供主動或自動採取行動。
NVIDIA Minerva 從 NVIDIA 基礎架構、網路、排程器與工作負載遙測收集資料。 這種完整堆疊的情境能將異常介面與 AI 工作關聯起來,協助業者找出可能因通用工具與孤立點解決方案而遺漏的根本原因。
NVIDIA Minerva 是 NVIDIA AI 工廠、NVIDIA Vera Rubin 與 NVIDIA Blackwell 的主要網路觀測性解決方案。 它涵蓋支援 scale-out、scale-across 與 scale-in 的 NVIDIA Spectrum-X 乙太網路、用於 scale-up 的 NVIDIA NVLink、Slurm 與其他排程器,以及 AI 工作負載。
NVIDIA Minerva 可部署於內部,或從 NVIDIA 雲端以 SaaS 形式使用。 它支援多種使用模式 (從 DIY 到完整的一站式解決方案),以適應現有的 AI 工廠工作流程。
NVIDIA Minerva 透過標準,包括 OpenTelemetry、gNMI、syslog、DCGM、Slurm 與 JSON,採集運算、網路、儲存、排程、NCCL 與工作負載遙測。 它與 Slack、Microsoft Teams、PagerDuty、ServiceNow、Grafana、Ansible 與基礎架構 API 整合。
NVIDIA Minerva 運用專用的 AI/ML 學習正常行為、預測異常行為、關聯事件,並推薦補救措施。 原生 AI 助理透過即時遙測實現自然語言分類,而其 MCP 伺服器則將 NVIDIA Minerva 與第三方代理工具串連。
NVIDIA Minerva 重複使用 DSX OS 的元件,同時 NVIDIA Minerva 的關鍵功能 (首先從 NVIDIA Minerva Collector 開始) 將在 DSX OS 中開源,從而打造模組化的可觀測性基礎。
後續步驟