Sfrutta la potenza delle GPU per accelerare facilmente i flussi di lavoro di scienza dei dati, machine learning e IA.
Esegui di interi flussi di lavoro di scienza dei dati con il GPU computing ad alta velocità per caricare, manipolare e applicare il machine learning ai dati in parallelo accelerando interi flussi di 50 volte.
Perché RAPIDS?
La scienza dei dati e il machine learning sono i principali segmenti di calcolo usati del mondo. Miglioramenti anche modesti dell'accuratezza dei modelli di analisi si traducono in miliardi in termini di profitti. Per creare i modelli migliori, gli esperti dei dati si impegnano costantemente ad addestrare, valutare, iterare e riaddestrare per ottenere risultati e modelli performanti e altamente accurati. Con RAPIDS™, i processi che richiedevano giorni possono essere portati a termine in pochi minuti, semplificando e accelerando la creazione e la distribuzione di modelli che generano valore. NVIDIA LaunchPad mette a tua disposizione i laboratori pratici di RAPIDS e con NVIDIA AI Enterprise possiamo supportare la tua azienda in tutti gli aspetti dei progetti di IA
I flussi di lavoro prevedono diverse iterazioni per trasformare i dati grezzi in dati di training. questi fluiscono poi in svariate combinazioni di algoritmi, subiscono processi di calibrazione degli iperparametri per individuare la giusta combinazione di modelli, parametri e funzionalità e garantire precisione e prestazioni ottimali.
Creare un ecosistema ad alte prestazioni
RAPIDS è una suite di librerie e API software open-source per l'esecuzione di flussi di scienza dei dati interamente su GPU e può ridurre i tempi di training da giorni a pochi minuti. Basato su NVIDIA® CUDA-X AI™, RAPIDS riunisce anni di sviluppo nella grafica, nel machine learning, nel deep learning, nel calcolo ad alte prestazioni (HPC) e non solo.
Tempi di esecuzione più rapidi
Con la scienza dei dati, più potenza di calcolo consente di ottenere informazioni più velocemente. RAPIDS sfrutta NVIDIA CUDA® per accelerare i flussi di lavoro eseguendo l'intero flusso di training per la scienza dei dati sulle GPU. Questo riduce i tempi di training dei modelli da giorni a minuti.
Uso degli stessi strumenti
Eliminando le complessità di lavorare con la GPU e i protocolli di comunicazione sottostanti dall'architettura del data center, RAPIDS crea un modo semplice per gestire la scienza dei dati. Poiché sempre più esperti di dati usano Python e altri linguaggi di alto livello, fornire l'accelerazione senza modificare il codice è essenziale per migliorare rapidamente i tempi di sviluppo.
Esegui ovunque su larga scala
RAPIDS può essere eseguito ovunque, su cloud o in sede. È possibile scalare facilmente da una workstation a server multi-GPU fino a cluster a più nodi, nonché distribuirlo in produzione con Dask, Spark, MLFlow e Kubernetes.
Scienza dei dati pronta per l'impresa
L'accesso a un supporto affidabile è spesso fondamentale per le organizzazioni che utilizzano la scienza dei dati per ottenere informazioni mission-critical. Il supporto globale NVIDIA Enterprise è disponibile con NVIDIA AI Enterprise, una suite software IA completa, e include tempi di risposta garantiti, notifiche di sicurezza prioritarie, aggiornamenti periodici e accesso agli esperti di IA NVIDIA.
Prestazioni fulminee con i big data
I risultati dimostrano che le GPU offrono risparmi straordinari in termini di costi e tempi per problemi di analisi dei big data su piccola e larga scala. Utilizzando API familiari come Pandas e Dask, in ordini di grandezza fino a 10 terabyte, RAPIDS esegue prestazioni fino a 20 volte più veloci su GPU rispetto alle migliori CPU. Con 16 GPU NVIDIA DGX A100 garantiscono le stesse prestazioni server di 350 CPU, la soluzione NVIDIA è 7 volte più economica e garantisce al contempo prestazioni di livello HPC.
Accesso ai dati più veloce, meno movimento dei dati
Le attività di elaborazione dei dati comuni includono molti passaggi che Hadoop non può gestire in modo efficiente. Apache Spark ha risolto questo problema mantenendo tutti i dati nella memoria di sistema, il che consente flussi di dati più flessibili e complessi, ma introduce nuovi colli di bottiglia. L'analisi di centinaia di gigabyte (GB) di dati potrebbe richiedere ore se non giorni su cluster Spark con centinaia di nodi CPU. Per sfruttare il vero potenziale della scienza dei dati, le GPU devono essere al centro del design del data center e basarsi su questi cinque elementi: calcolo, networking, storage, distribuzione e software. In generale, i flussi di lavoro di scienza dei dati end-to-end su GPU sono 10 volte più veloci rispetto alle CPU.
Evoluzione dell'elaborazione dei dati
RAPIDS ovunque
RAPIDS fornisce le basi per un nuovo ecosistema di scienza dei dati ad alte prestazioni e riduce gli ostacoli all'accesso alle nuove librerie grazie all'interoperabilità. L'integrazione con i principali framework di scienza dei dati come Apache Spark, cuPY, Dask e Numba, nonché numerosi framework di deep learning, come PyTorch, TensorFlow e Apache MxNet, favoriscono l'adozione e incoraggiano l'integrazione. È possibile trovare RAPIDS e i framework correlati nel catalogo NGC.
- Progetti in primo piano
- Contributi
- Utilizzi
- Open-source
Integrato con RAPIDS, Plotly Dash consente l'analisi visiva interattiva e in tempo reale di set di dati multi-gigabyte anche su una singola GPU.
L'acceleratore RAPIDS per Apache Spark fornisce una serie di plug-in per Apache Spark che sfruttano le GPU per accelerare l'elaborazione tramite RAPIDS e il software UCX.
La tecnologia al centro
RAPIDS si basa sulle primitive CUDA per l'ottimizzazione del calcolo di basso livello, ma espone il parallelismo delle GPU e la larghezza di banda della memoria elevata tramite interfacce Python di facile uso. RAPIDS supporta i flussi di lavoro di scienza dei dati end-to-end, dal caricamento dei dati e la pre-elaborazione, al machine learning, all'analisi dei grafici e alla visualizzazione. Si tratta di uno stack Python completamente funzionante scalabile per i casi d'uso aziendali con big data.
Caricamento e pre-elaborazione dei dati
Le funzionalità di caricamento, pre-elaborazione e ETL di RAPIDS si basano su Apache Arrow per caricare, unire, aggregare, filtrare e manipolare i dati in un'API simile a Pandas, che gli esperti di dati già conoscono. Gli utenti possono aspettarsi velocità standard 10 volte superiori.
Machine learning
Gli algoritmi di machine learning di RAPIDS e le primitive matematiche seguono un'API familiare di tipo scikit-learn. Strumenti popolari come XGBoost, Random Forest e molti altri sono supportati sia per le implementazioni con singola GPU sia per i data center di grandi dimensioni. Per i set di dati di grandi dimensioni, queste implementazioni basate su GPU possono essere completate 10-50 volte più velocemente rispetto alle equivalenti con CPU.
Analisi di grafici
Gli algoritmi grafici di RAPIDS come PageRank e le funzioni come NetworkX fanno un uso efficiente del parallelismo massiccio delle GPU per accelerare l'analisi di grafici di grandi dimensioni di oltre 1000 volte. Esplora fino a 200 milioni di bordi su una singola GPU NVIDIA A100 Tensor Core e scala fino a miliardi di bordi su cluster NVIDIA DGX™ A100.
Visualizzazione
Le funzionalità di visualizzazione di RAPIDS supportano il filtraggio incrociato accelerato da GPU. Ispirato alla versione JavaScript dell'originale, consente il filtraggio multidimensionale interattivo e super veloce di oltre 100 milioni di set di dati tabulari.
Integrazione del deep learning
Sebbene il deep learning sia efficace in settori come la computer vision, l'elaborazione del linguaggio naturale e i sistemi recommender, ci sono aree in cui il suo utilizzo non è diffuso. Per i problemi dei dati tabulari, costituiti da colonne di variabili categoriche e continue, vengono comunemente impiegate tecniche come XGBoost, gradient boosting o modelli lineari. RAPIDS semplifica la pre-elaborazione dei dati tabulari sulle GPU e fornisce dati senza soluzione di continuità direttamente a qualsiasi framework che supporti DLPack, come PyTorch, TensorFlow e MxNet. Queste integrazioni aprono le porte a nuove opportunità per la creazione di flussi di lavoro avanzati, prima fuori portata, come l'alimentazione di nuove funzionalità create da framework di deep learning e riportate negli algoritmi di machine learning.
Data center moderni per la scienza dei dati
Ci sono cinque ingredienti chiave per creare data center ottimizzati per l'IA nell'impresa. La chiave del design consiste nel posizionare le GPU al centro.
Calcolo
Con le loro straordinarie prestazioni di calcolo, i sistemi con GPU NVIDIA rappresentano le fondamenta del computing per i data center IA. I sistemi NVIDIA DGX garantiscono prestazioni IA rivoluzionarie e possono sostituire, in media, 50 server CPU dual-socket. Questo è il primo passo per offrire agli esperti di dati gli strumenti più potenti del settore per l'esplorazione dei dati.
Software
Eliminando le complessità di lavorare con la GPU e i protocolli di comunicazione sottostanti dall'architettura del data center, RAPIDS crea un modo semplice per gestire la scienza dei dati. Poiché sempre più esperti di dati usano Python e altri linguaggi di alto livello, fornire l'accelerazione senza modificare il codice è essenziale per migliorare rapidamente i tempi di sviluppo.
Networking
L'accesso diretto e remoto alla memoria (RDMA) con i controller di interfaccia di rete (NIC) NVIDIA Mellanox®, NCCL2 (libreria di comunicazione collettiva NVIDIA) e OpenUCX (framework di comunicazione open-source punto-punto) ha generato miglioramenti significativi nella velocità di training. Con l'RDMA che consente alle GPU di comunicare direttamente tra loro sui nodi con velocità fino a 100 gigabit al secondo (Gb/s), le GPU operano come su un server di grandi dimensioni.
Distribuzione
Le aziende si spostano nei container Kubernetes e Docker per distribuire flussi scalabili. La combinazione di applicazioni containerizzate con Kubernetes consente alle aziende di modificare le priorità in base alle attività più importanti che aggiungono resilienza, affidabilità e scalabilità ai data center IA.
Storage
Lo storage GPUDirect® consente a NVMe e NVMe over Fabric (NVMe-oF) di leggere e scrivere i dati direttamente sulla GPU, superando la CPU e la memoria di sistema. Questo libera la memoria della CPU e di sistema da altre attività, garantendo a ciascuna GPU l'accesso a più dati con una larghezza di banda fino al 50% superiore.
Il nostro impegno per la scienza dei dati open-source
NVIDIA si impegna a semplificare, unificare e accelerare la scienza dei dati per la community open-source. Ottimizzando l'intero stack, dall'hardware al software, e rimuovendo i colli di bottiglia per la scienza dei dati iterativa, NVIDIA aiuta gli esperti di tutto il mondo a fare di più con meno risorse. Questo si traduce in più valore per le imprese generato dalle risorse più preziose: i dati e gli esperti. Con il software Apache 2,0 open-source, RAPIDS mette insieme un ecosistema sulle GPU.