컨피덴 AI 솔루션

NVIDIA 컨피덴셜 컴퓨팅

폐쇄형 모델과 민감한 데이터의 보호

학습 시작하기

엔터프라이즈용 | IT용 | 개발자용

개요
장점
제품
사용 사례
리소스
채택 업체
다음 단계

개요
장점
제품
사용 사례
리소스
채택 업체
다음 단계

시작하기

개요

사용 중인 모델과 데이터 보호

많은 조직들이 자사의 생산성 향상 및 비즈니스 성과 개선을 위해 에이전틱 AI를 도입함에 따라, 중대한 우려사항도 함께 제기되기 시작했습니다. 바로 추론과 파인 튜닝을 하는 과정에서 조직의 민감 데이터와 모델을 보호하는 것에 대한 우려입니다. 기업의 데이터는 무결성과 기밀성의 침해라는 잠재적 위협에 취약합니다. NVIDIA Rubin 아키텍처를 기반으로 현재 3세대로 출시된 NVIDIA 컨피덴셜 컴퓨팅을 사용하면 비암호화 모델에 필적하는 성능으로 강력한 데이터 및 모델 보안을 제공하여 AI를 계속 발전시킬 수 있습니다. 기업은 NVIDIA 컨피덴셜 컴퓨팅을 통해 AI로 민감 데이터의 가치를 활용하고, 이로써 혁신적인 인사이트를 제공할 수 있으며, 데이터와 모델이 안전하게 보호되고 규정을 준수한다는 확신과 위험에 노출되지 않을 것이라는 확신을 가질 수 있습니다.

컨피덴셜 컴퓨팅이 사용되는 방식

컨피덴셜 컴퓨팅은 사용 중인 데이터 보호에 도움이 되는 기술을 구현했습니다. 이 Linux 재단 보고서에는 AI가 미래에 어떤 기회를 제공하는지, 그리고 조직이 컨피덴셜 컴퓨팅을 사용하여 이러한 워크로드를 어떻게 보호할 수 있는지 설명되어 있으니 확인해보세요.

컨피덴셜 컴퓨팅 사례 읽기

장점

컨피덴셜 컴퓨팅은 모든 AI 워크로드를 보호합니다

기업이 NVIDIA 컨피덴셜 컴퓨팅을 통해 AI 스택을 어떻게 보호할 수 있는지 알아보세요.

사용 중인 모델과 데이터 보호

NVIDIA Vera Rubin NVL72는 NVLink 전반에 걸쳐 빠르고 지연 시간이 낮은 확장을 위해 랙 스케일 컨피덴셜 컴퓨팅을 가능하게 하여, 72개의 NVIDIA Rubin GPU, 36개의 NVIDIA Vera CPU 및 인터커넥트에 통합된 시큐리티 도메인을 구축합니다. AI 라이프사이클 전반에 걸쳐 모델과 학습 데이터, 추론 프롬프트를 격리된 상태로 유지함과 동시에, GPU 실행 및 메모리와 레지스터 상태까지 안전하게 보호합니다.

고성능 AI 보안

NVIDIA 컨피덴셜 컴퓨팅은 Rubin, Blackwell, Hopper GPU에 배포된 AI 모델의 기밀성과 무결성을 철저히 보호합니다. Vera Rubin NVL72는 NVLink 및 NVLink-C2C를 통해, 암호화를 적용하지 않았을 때와 거의 동일한 성능을 랙 규모로 확장하여 제공합니다. 이러한 디자인을 바탕으로 민감한 AI 워크로드가 네이티브에 가까운 성능으로 대규모 환경, 심지어는 공유 환경이나 클라우드 환경에서도 안전하게 실행될 수 있습니다.

코드 변경 불필요

Hopper, Blackwell, Rubin GPU에서 NVIDIA 컨피덴셜 컴퓨팅을 활용하면 기업은 코드 변경 없이도 어떤 모델이든 보안 엔클레이브로 신속하게 옮길 수 있습니다. 방법은 간단합니다. 보호해야 할 워크로드를 식별한 다음 몇 번의 키 입력만 하면 해당 워크로드가 안전하게 보호됩니다.

디바이스 증명을 통한 검증 가능성

하드웨어 기반의 증명으로 컴퓨팅 자산의 신뢰성을 검증하는 제로 트러스트 아키텍처. 플랫폼이나 워크로드가 실행되는 위치에 관계없이 Vera Rubin 플랫폼, Blackwell, Hopper GPU를 통해 신뢰 실행 환경(TEE) 내에서 규정을 준수하고 앱과 데이터를 보호할 수 있습니다.

제품

NVIDIA 컨피덴셜 컴퓨팅

이제 데이터가 어디에 있든 AI 보안을 유지하고 데이터 주권 관련 요구 사항을 충족할 수 있습니다. NVIDIA는 데이터와 모델이 클라우드에서 실행되든, 혹은 하이브리드 클라우드 또는 온프레미스에서 실행되는지에 관계없이 AI를 보호하기 위한 신뢰할 수 있는 기반을 제공합니다.

온프레미스 또는 하이브리드 클라우드에서 데이터 보호

로컬 데이터센터 또는 하이브리드 클라우드 환경에서 실행되는 AI 워크로드의 경우, NVIDIA 컨피덴셜 컴퓨팅은 모든 워크로드를 고성능으로 보호할 수 있는 도구를 조직에 제공합니다.

제로 트러스트 아키텍처 구축

클라우드에서 데이터 보호

NVIDIA 컨피덴셜 컴퓨팅은 현재 클라우드 서비스 제공업체를 통해 사용할 수 있습니다. 아래를 클릭하여 AI 워크로드를 빠르게 보호하는 방법을 알아보세요.

Azure 컨피덴셜 컴퓨팅 살펴보기 Google Cloud에서의 컨피덴셜 컴퓨팅 살펴보기

검증 가능한 보안

NVIDIA 원격 증명 서비스는 견고한 메커니즘 제공을 통해 컨피덴셜 컴퓨팅을 실현함으로써, 신뢰 실행 환경(TEE)에서 실행되는 디바이스와 플랫폼의 무결성, 보안, 검증 가능성을 보장해 줍니다.

NVIDIA 증명 솔루션 살펴보기

사용 사례

고객 및 파트너 성공 사례 살펴보기

헬스케어, 금융 서비스, 제조, 정부 등 다양한 분야의 선도적인 조직들이 NVIDIA 컨피덴셜 컴퓨팅으로 어떻게 보안을 혁신시키고 있는지 알아보세요. 이 최첨단 기술은 데이터가 사용되는 중에 민감한 워크로드를 안전하게 보호합니다.

암호화된 컴퓨팅
데이터 보호
안전한 협업

AI 모델, 프롬프트 및 가중치 보호를 위한 컨피덴셜 컨테이너

현재 다양한 기업들이 기밀 가상 머신과 NVIDIA GPU 및 보안 샌드박싱을 결합하는 방식으로 컨피덴셜 컴퓨팅을 활용하여 생성형 AI 프레임워크(예: Privatemode.ai)를 사용하고, 이로써 프롬프트를 상시 암호화하고 있습니다.

Edgeless Systems에서 컨피덴셜 컴퓨팅을 어떻게 활용하고 있는지에 관한 글 읽기

공공 부문에서 빠르고 안전한 데이터 보호 구축

1시간 이내에 안전한 LLM을 배포하고 데이터 사일로 전반에 걸쳐 자신 있게 공유할 수 있습니다. NVIDIA 기반 기술을 사용하여 실시간으로 코드를 빠르게 테스트, 보호, 배포 및 실행하면서 데이터를 안전하고 원활하게 공유하는 방법에 대해 알아보세요.

Anjuna Seaglass가 LLM 배포 과정을 어떻게 보호하고 있는지에 관한 글 읽기

안전한 다자간 협업을 통한 신약 개발을 위한 제약 산업의 발전

Fortanix는 Xeureka와 같은 조직이 임상 발전을 위해 보안 정책을 관리하고 사일로화된 기밀 데이터세트를 오케스트레이트할 수 있도록 컨피덴셜 컴퓨팅 플랫폼을 제공합니다.

Fortanix에서 데이터와 모델을 어떻게 보호하고 있는지에 관한 글 읽기

리소스

이해력 높이기

NVIDIA 컨피덴셜 컴퓨팅에 대해 자세히 알아보려면 블로그, 교육 영상, 전문가와의 만남 녹화본, GTC 세션을 둘러보세요.

블로그
세션
비디오

모든 기술 블로그 보기

더 많은 세션 보기

Intel, Azure, AMD, NVIDIA로 알아보는 컨피덴셜 컴퓨팅의 영향

Felix Schuster(Edgeless Systems의 CEO)가 진행하는 패널 토론에서는 여러 기업의 CTO들이 참여해 컨피덴셜 컴퓨팅 기술, 일반적인 사용 사례, 기술적 문제점, 증명에 관해 토론하고, 컨피덴셜 컴퓨팅 기술의 미래(특히 AI에 관련하여)에 대한 예측을 합니다.

지금 시청하기