사용 중인 데이터 및 AI 모델을 보호합니다.
사용 중인 데이터, AI 모델, 애플리케이션은 온프레미스나 클라우드 또는 엣지에 상관없이 외부 공격과 내부 위협에 취약합니다. NVIDIA Hopper™ 아키텍처에 도입된 획기적인 보안 기능인 NVIDIA 컨피덴셜 컴퓨팅은 이러한 위협을 완화하는 동시에 사용자가 AI 워크로드를 위해 NVIDIA H100 Tensor 코어 GPU의 전례 없는 가속화에 액세스할 수 있도록 합니다. 강력한 하드웨어 기반 보안을 통해 중요한 데이터 및 독점 AI 모델을 무단 액세스로부터 보호합니다.
온프레미스나 클라우드 또는 엣지에서 가상 시스템(VM)을 완전히 격리할 수 있습니다. CPU와 H100 GPU 사이의 데이터 전송은 PCIe 라인 속도로 암호화되고 해독됩니다. H100 GPU의 전체 워크로드를 보호하는 내장 하드웨어 방화벽을 통해 물리적으로 격리된 신뢰할 수 있는 실행 환경(TEE)이 생성됩니다.
사용 중인 데이터와 AI 워크로드의 기밀성과 무결성을 보호합니다. 하이퍼바이저, 호스트 OS, 클라우드 제공업체, 인프라에 물리적으로 액세스할 수 있는 모든 무단 엔터티는 실행 중에 AI 애플리케이션과 데이터를 보거나 수정할 수 없으므로 민감한 고객 데이터와 지적 재산이 보호됩니다.
인증된 최종 사용자만 H100의 TEE 내에서 실행할 데이터와 코드를 입력할 수 있습니다. 또한 디바이스 증명은 사용자가 정품 NVIDIA H100 GPU와 통신하고 있으며, 펌웨어가 변조되지 않았고, GPU 펌웨어가 예상대로 업데이트되었는지 확인합니다.
노드 내의 단일 H100 GPU 또는 다중 H100 GPU에서 실행되는 전체 AI 워크로드를 보호합니다. 또한 개별 MIG 인스턴스에서 실행되는 AI 워크로드를 물리적으로 격리하고 보호할 수 있으므로, 단일 H100 GPU에서 멀티 테넌트에 대한 기밀 컴퓨팅을 지원하고 인프라 활용을 최적화할 수 있습니다.
대부분의 경우 GPU 가속 워크로드에 필요한 코드 변경 없이 기밀 컴퓨팅의 모든 이점을 활용할 수 있습니다. NVIDIA의 GPU 최적화 소프트웨어를 사용하면 보안, 개인 정보 보호, 규정 준수를 유지하면서 H100 GPU에서 엔드 투 엔드 AI 워크로드를 가속화할 수 있습니다.
NVIDIA 컨피덴셜 컴퓨팅은 H100 GPU에 배포된 AI 모델과 알고리즘의 기밀성과 무결성을 유지합니다. 독립 소프트웨어 공급업체(ISV)는 이제 타사 또는 협업 데이터센터, 엣지 인프라, 퍼블릭 클라우드를 비롯한 공유 또는 원격 인프라에 자체 독점 AI 모델을 규모별로 배포하고 배치할 수 있습니다. 이를 통해 소매 및 제조와 같은 산업의 ISV는 AI 솔루션의 액세스 범위를 넓히면서도 지적 재산권(IP)을 무단 액세스 또는 수정으로부터 보호할 수 있습니다. 배포 인프라에 물리적으로 액세스할 수 있는 사람에게서도 보호됩니다.
융합을 위해 AI 모델을 훈련하는 것은 방대한 양의 데이터를 처리해야 하는 연산 집약적이고 복잡하며 반복적인 프로세스입니다. 훈련이 시작된 후 이러한 AI 모델은 엔터프라이즈 애플리케이션 내에 통합되어 주어지는 새로운 데이터를 추론하거나 예측합니다. 금융, 헬스케어, 공공 부문과 같이 AI 모델의 훈련 및 추론에 사용되는 데이터를 개인 식별 정보(PII)처럼 민감하게 다루거나 규제하는 산업의 수가 증가하고 있습니다. 기업에서는 NVIDIA 컨피덴셜 컴퓨팅을 통해 AI 훈련 및 추론 중에 온프레미스나 클라우드 또는 엣지에서 데이터 기밀성을 확보할 수 있습니다.
부정행위 감지, 메디컬 이미징, 신약 개발과 같은 사용 사례를 위한 AI 모델을 구축하고 개선하려면 신경망을 훈련하기 위해 신중하게 레이블이 지정된 다양한 데이터 세트가 필요합니다. 이를 위해서는 데이터 소스의 기밀성과 무결성에 영향을 주지 않으면서 다자 간의 협업이 이뤄져야 합니다. NVIDIA 컨피덴셜 컴퓨팅은 안전한 멀티파티(Multi-party) 컴퓨팅을 제공함으로써 조직이 협력하여 AI 모델을 훈련 또는 평가할 수 있도록 지원하고, 각 참여 사이트의 무단 액세스, 외부 공격, 내부 위협으로부터 데이터와 AI 모델을 모두 보호합니다.
예비 사양이며 변경될 수 있습니다.