コンフィデンシャル コンピューティングは、ハードウェアに根ざした信頼できる実行環境 (TEE: Trusted Execution Environments) を通じて、使用中のモデルとデータを保護し、企業が機密データ上で AI を安全に実行できるようにするテクノロジです。これにより、データが内部関係者やインフラによる脅威から保護されていることを暗号技術を用いて検証します。
エンタープライズの機密データは、GDPR、EU AI 法、および各国の規制要件といった厳格な要件により、オンプレミス インフラに縛られています。一方で、高性能な AI モデルは従来、クラウド API を通じて提供されてきたため、リモート推論がセキュリティおよびコンプライアンスの基準を満たしていない規制対象ワークロードにおいて、根本的な課題が生じています。AI モデルは、データにアクセスする必要があります。
コンフィデンシャル コンピューティングが、これを可能にします。AI モデルはハードウェアで強化されたエンクレーブ内の、オンプレミス環境で実行されます。そのため、モデル所有者に対し、自身が所有していないインフラ上であっても独自の重み情報が保護されているという暗号学的保証をもたらします。データ所有者は、処理中に機密データが漏えいしないという、ハードウェアによる保証を得ることができます。モデル プロバイダー、インフラの運用者、および特権を持つ内部関係者のいずれにも漏えいすることはありません。
ヘルスケア、金融サービス、ソブリン AI といった規制対象業界は、これによりその環境が要求するセキュリティとコンプライアンスを備えた AI モデルを展開できるようになりました。
クイック リンク
コンフィデンシャル コンピューティングは、保存時や転送時だけでなく、使用中のアプリケーション コード、モデル、データを暗号化することで、AI ワークロードのセキュリティを確保します。これは、暗号による構成証明によって強制される、ハードウェアに根ざした信頼できる実行環境 (TEE: Trusted Execution Environments) を構築することで実現されます。NVIDIA は、GPU をコンフィデンシャル仮想マシン (CVM: Confidential Virtual Machines) およびコンフィデンシャル コンテナー (CoCo: Confidential Containers) 用の TEE の一部として組み込むことで、コンフィデンシャル コンピューティングを実現しました。
コンフィデンシャル仮想マシンは、AI ワークロード全体をホスト オペレーティング システムやハイパーバイザーから分離します。システムに対して完全な権限を持つインフラ管理者であっても、CVM 内で実行されているデータやモデルにアクセスすることはできません。 これにより、ワークロードと基盤となるインフラの間に、明確な信頼境界が確立されます。
コンフィデンシャル コンテナーは、安全でクラウドネイティブな AI の展開を可能にします。コンフィデンシャル コンテナーは、コンテナー エコシステムにプラグインし、Kubernetes ベースの環境に企業が求める俊敏性、拡張性、オーケストレーションの利点をもたらすオープン ソースの軽量な VM ランタイムである Kata Containers を基盤に構築されています。
コンフィデンシャル コンピューティングの主なユース ケースは、次のとおりです。
モデルの IP (知的財産) の保護: サードパーティ環境に展開する際、モデルの重みを保護し、モデルの盗用を防止します。
機密データに関するトレーニング: 基盤となるデータセットを権限のない第三者に公開することなく、非公開のデータを使用して AI モデルのトレーニングとファインチューニングを実行します。
独自データにおける安全な推論: RAG およびエージェント型推論のユース ケースを通じて、独自データの価値を引き出し、推論パイプライン全体を通じたデータの保護を保証します。
ソブリン AI と規制対象業界: 厳格な規制基準の下で運用される業界において、あらゆる AI ユース ケースを実現し、ワークロードがデータ レジデンシー、コンプライアンス、ガバナンスの要件を満たすことを保証します。
ゼロトラスト AI ファクトリー: モデル所有者、データ所有者、インフラ運用者が同じ GPU クラスターを共有する AI ファクトリー向けに、ハードウェアで強化されたセキュリティ基盤を提供します。
コンフィデンシャル コンピューティングが不可欠となる主な業界アプリケーションは次のとおりです。
医療および製薬: 病院、研究機関、製薬企業は、患者記録、ゲノム配列、臨床試験データをいかなる第三者にも開示することなく、ハードウェアで強化されたエンクレーブ内で AI に関する共同作業を行うことができます。
金融サービス: 不正検出、リスク モデリング、AML 関連のワークロードは、暗号化ハードウェアによる保証の下で、あらゆる金融機関で実行されます。これにより機密の顧客データが取引先やインフラ プロバイダーに漏えいすることはありません。
公共部門: 政府と国営企業は、AI ワークロードを自国内に留め、しかも権限のない外部関係者の手の届かない範囲に維持するために必要な、ハードウェアで強化された基盤を得ることができます。
NVIDIA のエコシステム パートナー各社は、本番環境に対応したコンフィデンシャル コンピューティングを進化させ、企業が AI の価値を最大限に引き出せるよう支援しています。
この Linux Foundation レポートでは、AI がもたらす将来的な可能性と、コンフィデンシャル コンピューティングによって組織がワークロードを保護する方法について説明しています。
NVIDIA からの最新ニュース、アップデートなどの受信登録はこちら。登録はいつでも登録解除できます。