PANORAMICA TECNICA

Considerazioni essenziali per la distribuzione dell'IA sull'Edge

Valuta se l'Edge Computing è adatto per la tua infrastruttura.

Librerie accelerate da GPU, DataFrame e API:

  • Progettato con NVIDIA CUDA, NVIDIA RAPIDS è una suite di librerie software e API open source che abilitano il parallelismo sulla GPU e una memoria ad alta banda tramite operazioni su DataFrame e grafiche, ottenendo velocità 50 volte superiori tipici flussi di dati end-to-end. Per Spark 3.0, le nuove API RAPIDS vengono utilizzate da Spark SQL e DataFrame per l'elaborazione di dati in colonne accelerate da GPU ed efficienti in termini di memoria e per i piani di query.
  • Con Spark 3.0, l'ottimizzatore di query di Catalyst è stato modificato per identificare gli operatori all'interno di un piano di query che possono essere accelerati con l'API RAPIDS e pianificati sulle GPU nel cluster Spark durante l'esecuzione del piano.
  • Una nuova implementazione Spark casuale basata su librerie di comunicazione accelerate da GPU, tra cui l'accesso diretto alla memoria remota (RDMA), riduce drasticamente il trasferimento dei dati tra i processi Spark. RDMA consente alle GPU di comunicare direttamente tra loro, e tra i nodi, fino a 100 Gb/s, operando come su un server di grandi dimensioni.


Pianificazione con GPU in Spark

  • Spark 3.0 aggiunge l'integrazione con i gestori cluster (YARN, Kubernetes e standalone) per richiedere le GPU e punti plug-in per consentire l'esecuzione di operazioni sulla GPU. Questo rende le GPU più facili da richiedere e utilizzare per gli sviluppatori di applicazioni Spark, consente una maggiore integrazione con i framework di deep learning e IA, come Horovod e TensorFlow su Spark, e permette un utilizzo più razionale delle GPU.

 

L'Edge Computing, il processo con cui si mette in correlazione la potenza di calcolo con il sito in cui vengono raccolti i dati, è una delle tendenze in più rapida crescita nel settore dell'elaborazione aziendale. Prima di investire nell'Edge Computing, le aziende devono valutare se è idoneo per le loro esigenze.

Questa panoramica tecnica svela:

  • Come valutare se l'Edge Computing è adatto alla tua azienda
  • Quali fattori considerare prima di distribuire l'infrastruttura Edge
  • Come distribuire sull'Edge
  • Quali risorse sono necessarie per iniziare
spark-e-book-thumb-2

SCARICA ORA

Send me the latest enterprise news, announcements, and more from NVIDIA. I can unsubscribe at any time.