Rack CPU NVIDIA Vera
Progettato appositamente per l'apprendimento per rinforzo e l'IA per agenti.
Panoramica
Infrastruttura su scala rack per le fabbriche IA
Basato su NVIDIA MGX™, il rack CPU Vera offre un'infrastruttura CPU su scala rack per le moderne fabbriche IA. Con la scalabilità dell'apprendimento per rinforzo (RL) e dei sistemi di IA per agenti, le CPU eseguono codice, strumenti e flussi di lavoro di dati che generano risultati. Vera combina prestazioni core di alto livello, un'enorme larghezza di banda di memoria e un'efficienza energetica eccezionale, completando i carichi di lavoro fino al 50% più rapidamente e con un'efficienza doppia rispetto alle tradizionali infrastrutture CPU.
Sandbox per CPU:
eseguire azioni IA su larga scala
Ambienti che alimentano l'RL e l'IA per agenti
I sistemi RL e di IA per agenti si basano su ambienti software al di fuori del modello che eseguono codice generato da modelli, strumenti e operazioni sui dati, valutano i risultati e restituiscono feedback prima di passare al passaggio successivo. Ogni ambiente viene in genere eseguito su un core CPU dedicato e, su larga scala, migliaia o milioni di essi operano in parallelo. Le prestazioni per core completamente caricate determinano direttamente la velocità con cui gli acceleratori possono continuare a funzionare.
Il rack CPU NVIDIA Vera è progettato appositamente per supportare questi ambienti su larga scala. Un singolo rack raffreddato a liquido integra fino a 256 CPU Vera, supportando più di 22.500 ambienti CPU simultanei. La soluzione offre prestazioni per core sostenute e un'efficienza energetica fino a 2 volte superiore, in questo modo, i cicli di valutazione sono brevi e le fabbriche IA operano al picco della produttività.
Specifiche1
NVIDIA Vera
| Rack CPU NVIDIA Vera | CPU NVIDIA Vera | |
|---|---|---|
| Configurazione | 256 CPU Vera | 1 CPU Vera |
| Core | Thread | 22.528 core NVIDIA Olympus 45.056 thread |
88 core NVIDIA Olympus 176 thread |
| Capacità di memoria | Fino a 400 TB | Fino a 1,5 TB |
| Larghezza di banda aggregata | Fino a 315 TB/s | Fino a 1,2 TB/s |
| Rete N/S | DPU NVIDIA BlueField-4 | N/D |
| RAFFREDDAMENTO | Raffreddato a liquido | N/D |
1. Informazioni preliminari. Tutti i valori sono indicativi e soggetti a modifiche.
Partner
I nostri partner
Inizia
Aggiornati con le notizie di NVIDIA
Iscriviti per ricevere le ultime notizie, gli aggiornamenti e altro da NVIDIA.