Proteggi dati e modelli IA durante l'uso.
Dati, modelli IA e applicazioni in uso sono vulnerabili ad attacchi esterni e minacce interne, siano essi distribuiti in locale, nel cloud o sui dispositivi perimetrali. NVIDIA Confidential Computing, una funzionalità di sicurezza rivoluzionaria introdotta nell'architettura NVIDIA Hopper™, mitiga queste minacce, consentendo al contempo agli utenti di accedere all'accelerazione senza precedenti delle GPU NVIDIA H100 Tensor Core per i carichi di lavoro IA. Proteggi i dati sensibili e i modelli IA proprietari dall'accesso non autorizzato grazie a una sicurezza solida basata su hardware.
Ottieni il pieno isolamento delle macchine virtuali (VM) in locale, nel cloud o sui dispositivi perimetrali. I trasferimenti di dati tra CPU e GPU H100 vengono crittografati e decrittografati alla velocità del PCIe. Viene creato un ambiente di esecuzione affidabile (TEE) fisicamente isolato con firewall hardware integrati che proteggono l'intero carico di lavoro sulla GPU H100.
Tutela della riservatezza e dell'integrità dei dati e dei carichi di lavoro IA in uso. Le entità non autorizzate, tra cui l'hypervisor, il sistema operativo host, il provider cloud e chiunque abbia accesso fisico all'infrastruttura, non possono visualizzare o modificare l'applicazione IA e i dati durante l'esecuzione, il che protegge i dati sensibili dei clienti e la proprietà intellettuale.
Assicurati che solo gli utenti finali autorizzati possano inserire dati e codice per l'esecuzione all'interno dell'ambiente TEE di H100. L'attestazione del dispositivo verifica che l'utente sia in comunicazione con una GPU NVIDIA H100 autentica, che il firmware non sia stato manomesso e che il firmware della GPU sia aggiornato come previsto.
Proteggi l'intero carico di lavoro IA in esecuzione su una singola GPU H100 o più GPU H100 all'interno di un nodo. È possibile isolare fisicamente e proteggere i carichi di lavoro IA in esecuzione su singole istanze MIG, consentendo il computing riservato per più tenant su una singola GPU H100 e ottimizzando l'utilizzo dell'infrastruttura.
Sfrutta tutti i vantaggi del computing riservato senza modifiche al codice, per i carichi di lavoro accelerati da GPU nella maggior parte dei casi. Usa il software ottimizzato per GPU NVIDIA per accelerare i carichi di lavoro IA end-to-end sulle GPU H100, garantendo al contempo sicurezza, privacy e conformità normativa.
NVIDIA Confidential Computing tutela la riservatezza e l'integrità dei modelli e degli algoritmi IA distribuiti su GPU H100. I fornitori di software indipendenti (ISV) possono ora distribuire e implementare i modelli IA proprietari su larga scala, su infrastruttura condivisa o remota, inclusi i data center di terze parti o in colocazione, l'infrastruttura Edge e il cloud pubblico. Questo permette agli ISV in settori come il retail e la produzione industriale di rendere le soluzioni IA ampiamente accessibili, proteggendo al contempo la proprietà intellettuale da accessi o modifiche non autorizzati, anche da parte di persone che possono accedere fisicamente all'infrastruttura di distribuzione.
Il training dei modelli IA per la convergenza è un processo computazionale intensivo, complesso e iterativo che richiede enormi volumi di dati. Una volta addestrati, i modelli IA vengono integrati nelle applicazioni aziendali per dedurre o fare previsioni sui nuovi dati che vengono presentati. Vi è un numero crescente di settori come la finanza, la sanità e la pubblica amministrazione in cui i dati utilizzati per il training e l'inferenza dei modelli IA sono sensibili e/o regolamentati, ad esempio le informazioni di identificazione personale (PII). Con NVIDIA Confidential Computing, le aziende possono garantire la riservatezza dei dati durante il training e l'inferenza con IA, in locale, nel cloud o sui dispositivi perimetrali.
Creare e migliorare modelli IA per casi d'uso come il rilevamento delle frodi, la diagnostica per immagini e lo sviluppo di farmaci richiede set di dati eterogenei, attentamente etichettati per addestrare reti neurali. Questo processo necessita della collaborazione tra più parti senza compromettere la riservatezza e l'integrità delle origini dati. NVIDIA Confidential Computing sblocca il computing sicuro multi-party, consentendo alle organizzazioni di lavorare insieme per addestrare o valutare modelli IA e proteggere dati e modelli IA da accessi non autorizzati, attacchi esterni e minacce interne, ovunque.
Specifiche preliminari, soggette a modifica