NVIDIA Run:ai
La piattaforma aziendale per l'orchestrazione dei carichi di lavoro IA e delle GPU.
Panoramica
Accelera i flussi di lavoro IA con l'orchestrazione dinamica
NVIDIA Run:ai accelera le operazioni di IA e machine learning affrontando le principali sfide dell'infrastruttura attraverso un'allocazione dinamica delle risorse, un supporto completo del ciclo di vita dell'IA e una gestione strategica delle risorse. Grazie alla condivisione delle risorse negli ambienti e all'utilizzo di un'orchestrazione avanzata, NVIDIA Run:ai migliora in modo significativo l'efficienza delle GPU e la capacità dei carichi di lavoro. Grazie al supporto di cloud pubblici e privati, ambienti ibridi o data center on-premise, NVIDIA Run:ai offre una flessibilità e un'adattabilità senza pari.
Che cos'è NVIDIA Run:ai?
NVIDIA Run:ai è la piattaforma open source per i carichi di lavoro IA e l'orchestrazione GPU per Kubernetes. Consente alle organizzazioni di eseguire addestramento, fine-tuning e inferenza su scala, massimizzando l'efficienza delle GPU e governando l'infrastruttura condivisa.
NVIDIA Run:ai riunisce i principali progetti open source e le capacità della piattaforma integrate per la gestione dell'infrastruttura IA su vasta scala. Distribuisci la piattaforma completa, adotta un progetto specifico o combina NVIDIA Run:ai con il software, l'infrastruttura e i servizi esistenti.
NVIDIA Run:ai è completamente open source
Le organizzazioni possono distribuire la piattaforma integrata, adottare singoli progetti, estendere NVIDIA Run:ai e contribuire al suo sviluppo.
Piattaforma
Orchestrazione dei carichi di lavoro IA e delle GPU per creare, addestrare e distribuire carichi di lavoro IA su larga scala
Prestazioni
Accelerazione IA nel mondo reale: orchestrazione GPU collaudata su larga scala
Pianificazione e orchestrazione dinamica che accelera il throughput IA, offre scalabilità semplice e massimizza l'utilizzo delle GPU.
Open source
Crea con i progetti open source NVIDIA Run:ai
Vantaggi
Scala i carichi di lavoro IA e fai contare ogni GPU
Progettata appositamente per i carichi di lavoro IA e l'infrastruttura GPU condivisa, NVIDIA Run:ai aiuta gli sviluppatori a muoversi più rapidamente, i team della piattaforma a governare le risorse e le organizzazioni a migliorare l'economia dell'infrastruttura IA.
Massimizza l'utilizzo delle GPU e riduci gli sprechi
Raggruppa, pianifica e alloca dinamicamente le risorse GPU in base alla domanda di carichi di lavoro e alle priorità aziendali. Riduci la capacità inattiva e frammentata, aumenta il throughput e migliora il ritorno sugli investimenti nell'infrastruttura GPU.
Accelera l'IA dallo sviluppo alla produzione
Offri agli sviluppatori l'accesso on-demand alle risorse GPU condivise per l'addestramento, il fine-tuning e l'inferenza. La pianificazione intelligente riduce l'attesa e l'attrito dell'infrastruttura, in modo che i team possano iterare più rapidamente e spostare i carichi di lavoro IA in produzione in modo affidabile.
Sfrutta la governance centralizzata per l'infrastruttura IA condivisa
Offri ai team della piattaforma visibilità e controllo su carichi di lavoro, utenti, cluster e ambienti. Le quote basate su policy, le priorità, i controlli di accesso e l'equità dei carichi di lavoro aiutano i carichi di lavoro IA critici a ricevere le risorse giuste, mentre i team condividono l'infrastruttura in modo efficiente.
Integrazione in qualsiasi ambiente
Distribuisci NVIDIA Run:ai in ambienti cloud pubblici, cloud privati, ibridi e on-premise. La sua base open source e l'architettura API-first consentono ai team e ai partner di integrare NVIDIA Run:ai con i framework IA, l'infrastruttura, gli strumenti operativi e le esperienze utente differenziate esistenti.
Come ottenere NVIDIA Run:ai
Oltre all'open source, NVIDIA Run:ai è disponibile come software supportato tramite NVIDIA DSX OS™, NVIDIA Mission Control™ e NVIDIA AI Enterprise o come software standalone. Seleziona l'opzione più adatta alla tua infrastruttura e al tuo modello operativo.
Ecosistema
NVIDIA Run:ai nell'ecosistema IA
Un ecosistema in crescita di fornitori di cloud, infrastrutture, aziende software, integratori di sistemi e fornitori di servizi gestiti sta progettando e offrendo NVIDIA Run:ai. Trova NVIDIA Run:ai attraverso i marketplace CSP partecipanti o collabora con un partner per l'integrazione, l'implementazione, il supporto o i servizi gestiti
Prossimi passi
È tutto pronto per iniziare?
Distribuisci la piattaforma open source, crea con singoli progetti o scegli un percorso supportato da NVIDIA o dai partner.
Scopri la documentazione NVIDIA Run:ai
Trova la guida all'installazione, gli aggiornamenti dei prodotti, la documentazione per l'utilizzo, le risorse di contributo e i dettagli di supporto per NVIDIA Run:ai.