機密 AI 解決方案

NVIDIA 機密運算

保護專有模型與敏感資料

概覽

保護使用中的模型與資料

各組織紛紛採用代理 AI 來提升生產力、改善業務成果,一個關鍵問題隨之浮上檯面,那便是在推論與微調過程中保護敏感資料與模型。企業資料極易受到潛在威脅的影響,這些威脅可能會損害其完整性與機密性。搭載於 NVIDIA Rubin 架構的第三代 NVIDIA 機密運算,持續推動 AI 發展,不僅提供強大的資料與模型安全性,效能更能比擬未加密模型。透過 NVIDIA 機密運算,企業不僅可運用 AI 挖掘敏感資料的價值、提供革命性深入解析,還能保證資料和模型的安全,使其既符合標準又不會受到損害。

擴充的 NVIDIA 機密運算讓領先的 AI 實驗室能在主權 AI 基礎架構上部署尖端模型

Anthropic、Google、Mistral、Apple 及其他基礎模型建置商正使用 NVIDIA 機密運算來釋放 NVIDIA GPU 容量,並在全球擴展其推論服務。

以硬體為根基的 AI 安全架構,無須犧牲運算效能

NVIDIA 機密運算為 AI 工作負載提供硬體級防護,在執行階段保護資料、模型權重與推論,效能最高可達非安全部署的 98%。

優勢

機密運算保護著每項 AI 工作負載

探索企業如何利用 NVIDIA 機密運算保護 AI 堆疊。

保障使用中的模型與資料

有了 NVLink,NVIDIA Vera Rubin NVL72 便擁有了機架級機密運算能力,可利用高速、低延遲擴充打造涵蓋 72 顆 NVIDIA Rubin GPU、36 顆 NVIDIA Vera CPU 和互連技術的統一安全網域。它能保護 GPU 執行、記憶體和暫存器狀態,同時在整個 AI 生命週期中確保模型、訓練資料及推論提示處於隔離狀態。

高效能 AI 安全

NVIDIA 機密運算讓部署於 Rubin、Blackwell 和 Hopper GPU 的 AI 模型兼顧機密性和完整性。Vera Rubin NVL72 獲得 NVLink 和 NVLink-C2C 支援,實現機架級幾近未加密狀態的高效能。此設計能在大規模環境中安全執行敏感 AI 工作負載,即使在共用/雲端環境中,也能以近乎原生的效能運作。

無程式碼變更

Hopper、Blackwell 和 Rubin GPU 上的 NVIDIA 機密運算可讓企業在不變更程式碼的情況下,快速將任何模型移至受保護的隔離區。只需識別需要保護的工作負載,並藉由幾次按鍵操作,即可確保這些工作負載的安全。

裝置認證可驗證性

零信任架構支援硬體信任根認證,驗證運算資產的可信度。保持合規,並確保在可信賴執行環境 (TEE) 中利用 Vera Rubin 平台、Blackwell 和 Hopper GPU,保護應用程式與資料的安全,無論平台或工作負載在何處執行。

產品

透過 NVIDIA 執行機密運算

無論資料存放於何處、基礎架構部署在何地,兼顧 AI 安全並落實資料主權的關鍵要求,如今已成為可能。 NVIDIA 為全面守護 AI 奠定值得信賴的基石,無論運行在專用裸機主機、Kubernetes 原生機密容器,還是機密虛擬機上。

機密裸機

AI 實驗室與模型擁有者可完全控制專用基礎架構,安全地在內部部署模型。 他們自己運作及驗證環境,將基礎架構供應商置於信任範圍之外。

Kubernetes 上的機密容器

企業在不改變建置或部署應用程式的方式的情況下,保護 Kubernetes 工作負載。 每個 pod 在各自的硬體保護環境中執行,提供安全隔離,同時維持 Kubernetes 的可移植性與營運靈活性。

機密虛擬機

企業將機密運算擴展至現有的虛擬機環境。 每個租戶虛擬機皆在硬體防護範圍內執行,不僅能保護工作負載與資料,即使是面對主機基礎架構供應商也無法存取。

使用案例

探索客戶與合作夥伴成功案例

探索領先組織如何運用 NVIDIA 機密運算革新安全措施,這套尖端技術可在資料使用時保護敏感的工作負載。 

NVIDIA 機密運算將協助擴展 Apple 的私人雲端運算

NVIDIA GPU 支援 Apple Intelligence 的伺服器端推論。

適用於受監管產業的私有語音 AI

Deepgram 與 Fortanix 使用 NVIDIA 機密運算,在受監管的內部部署環境中,保持語音 AI 模型權重與音訊資料在主動推論期間加密。

保護企業環境的內部 AI 模型

Dell Technologies 與 SpaceXAI 在 NVIDIA Blackwell GPU 上使用 NVIDIA 機密運算,在 Dell AI Factory with NVIDIA 保護使用中的專有模型權重與企業資料。

資源

推進理解

透過探索我們的部落格、訓練影片、專家會面紀錄以及 GTC 演講,深入瞭解 NVIDIA 機密運算。

Intel、Azure、AMD 與 NVIDIA 的機密運算影響

技術長參與機密運算、常見使用案例、技術挑戰及驗證的座談會,並預測這項技術的未來,尤其是 AI 趨勢,該座談會由 Felix Schuster (Edgeless Systems 執行長) 主持。

在 NVIDIA GPU 上執行高效能機密運算

安全專家、NVIDIA 資深總監與傑出架構師分享高效能機密運算的相關演講。

在 Microsoft Azure 上執行 NVIDIA GPU 支援的機密運算

在這次快速對談中,Azure 技術長暨 Microsoft 技術研究員 Mark Russinovich 和 NVIDIA 軟體安全副總裁 Daniel Rohrer,加入 Dark Reading 的 Terry Sweeney。

機密運算提升雲端安全與隱私

Mark Russinovich 在 CC Summit 發表主題演講:「機密運算:提升雲端安全與隱私」。

採用者

利用機密運算推動各產業發展

常見問題

NVIDIA 機密運算可在執行過程中加密並保護資料。 在執行 AI 工作負載時,能透過具備硬體強制防護的受信任執行環境 (TEE),全程加密保護使用中的專有 AI 模型與機敏資料,涵蓋訓練資料、微調資料集、推論提示詞到模型權重。這種保護措施延伸至內部模型部署,確保專有模型與機密資料即使在共享或多租戶基礎架構中仍安全無虞,讓組織在不影響安全性的情況下,完全控制 AI 工作負載。

NVIDIA 機密運算在 NVIDIA Rubin、NVIDIA Blackwell 與 NVIDIA Hopper™ 平台中受到支援。 如需支援的 GPU、CPU 與部署配置的詳細資訊,請參閱支援平台頁面。

認證系統利用硬體根證據來驗證機密運算環境的身分與安全狀況,並確保其在任何敏感程式碼或資料發佈至其中之前具有完整性。

支援配置的設計宗旨是以近乎原生的效能執行。 實際結果取決於工作負載、平台與配置。 探索機密運算效能部落格文章,深入瞭解效能。

許多支援的工作負載均可在不變更應用程式程式碼的情況下,使用機密運算。 基礎架構與部署設定仍需要遵循支援的配置。

它可支援資料保護與隔離控制,但本身並不認證工作負載。 與安全、隱私與法規遵循團隊確認完整架構與營運流程。

後續步驟

準備好開始了嗎?

立即在由 NVIDIA 機密運算支援的可信任執行環境中保護資料。

Azure 雲端服務

若您的資料儲存在 Microsoft Azure 雲端,請使用機密運算功能保護使用中的資料。

Google 雲端服務

Cloud,請利用 Google Cloud 中的機密運算功能保護使用中的資料。