LA PIATTAFORMA NVIDIA EGX PER L'EDGE COMPUTING

Le azienda ormai operano fino all'estremità della rete. In fabbrica. Nei negozi. Nelle città. Nelle strutture di soccorso sanitario. All'estremità della rete, i dati fluiscono da miliardi di sensori IoT per essere elaborati dai server periferici, supportando decisioni in tempo reale dove servono. Tutto questo è possibile: retail, sanità, produzione, trasporto e città intelligenti, con la piattaforma NVIDIA EGX, che porta la potenza dell'IA accelerata nei sistemi periferici.

L'IA IN TEMPO REALE FINO ALL'ESTREMITÀ DELLA RETE

La piattaforma NVIDIA EGX offre la potenza del calcolo accelerato con IA fino ai sistemi che operano all'estremità della rete con uno stack software nativo su cloud semplice da distribuire, una gamma di server e dispositivi convalidati e un vasto ecosistema di partner che offrono EGX attraverso i loro prodotti e servizi.

Esecuzione di container IA

Il catalogo NGC include una vasta gamma di software accelerato da GPU per EGX, tra cui grafici Helm per la distribuzione su Kubernetes. NGC include container per i principali software di scienza dei dati e IA, calibrati, testati e ottimizzati da NVIDIA. Il catalogo offre inoltre l'accesso a modelli preaddestrati di terze parti specifici per dominio e grafici Helm per Kubernetes che semplificano la distribuzione di software potente o la creazione di soluzioni personalizzate.

Nativo su cloud, l'edge in primo piano

NVIDIA EGX è uno stack software nativo su cloud e scalabile che mette l'edge in primo piano per permettere all'IT di eseguire il provisioning rapido e semplice di server con GPU. Componente principale di EGX è NVIDIA GPU Operator, che standardizza e automatizza la distribuzione di tutti i componenti necessari per il provisioning di cluster Kubernetes basati su GPU.

Server compatibili con EGX

La gamma hardware EGX inizia con il piccolo NVIDIA® Jetson Nano™, che con pochi watt è in grado di fornire mezzo trilione di operazioni al secondo (TOPS) nell'elaborazione di attività come il riconoscimento delle immagini. E continua fino alla gamma completa di server NVIDIA T4, che offrono oltre 10.000 TOPS per servire centinaia di utenti con funzionalità di riconoscimento del linguaggio in tempo reale e altre esperienze IA complesse.

Scalabilità IA dall'edge al data center

Scalabilità IA dall'edge al data center

La piattaforma NVIDIA EGX include una gamma scalabile di server convalidati pronti per NGC e compatibili con Edge, dalla gestione delle fotocamere per il traffico cittadino con Jetson Nano, a un singolo edge server con GPU NVIDIA installato nel retro di un negozio, fino a un'intera flotta di server, incluso un micro data center per le operazioni di telecomunicazioni. A prescindere dalle dimensioni, lo stack NVIDIA EGX è compatibile con una vasta gamma di applicativi, consentendo alle aziende di scalare le operazioni sull'edge rapidamente e in modo efficiente, da fotocamere a dispositivi, fino a grandi data center remoti.

Accelerare la rivoluzione dell'IoT con l'IA e il 5G

Accelerare la rivoluzione dell'IoT con l'IA e il 5G

Il 5G ci sta portando nella nuova era delle comunicazioni wireless, caratterizzata da una latenza 10 volte più bassa e da una larghezza di banda 1000 volte maggiore. Introduce inoltre il concetto di network slicing, che consentirà alle compagnie di telecomunicazioni di offrire in modo dinamico servizi esclusivi ai clienti. Nel percorso che porterà al 5G, le compagnie si concentreranno su una gamma di applicazioni software-defined eseguite all'estremità della rete, dall'IA alla realtà aumentata fino al gaming. Con NVIDIA EGX e il nuovo NVIDIA Aerial SDK, le reti di accesso radio virtuali (vRAN) software-defined e accelerate da GPU diventeranno una realtà in tempi record.

NVIDIA EGX Stack

Semplicità IT per la distribuzione sull'edge

Con lo stack NVIDIA EGX, i problemi riscontrati tipicamente dall'IT per l'installazione del software sui sistemi remoti scompaiono. Con i grafici Helm, i container e l'integrazione ed erogazione continue (CI/CD), le aziende possono ora distribuire container IA aggiornati in pochi minuti e senza fatica.

NVIDIA GPU Operator basato su Kubernetes risolve il problema della necessità di immagini univoche del sistema operativo tra nodi GPU e CPU; al contrario, il GPU Operator mette insieme tutto il necessario per supportare una GPU Tesla: il driver, il runtime del container, il plug-in del dispositivo e il monitoraggio della distribuzione con grafici Helm. Ora una singola immagine (gold master) copre i nodi CPU e GPU.

Hybrid Cloud Management

Compatibile con le piattaforme di gestione Kubernetes

La possibilità di distribuire, scalare e gestire un cluster Kubernetes di livello enterprise e di produzione è fondamentale. L'architettura dello stack EGX è supportata da partner di piattaforme per cloud ibrido leader: Canonical, Cisco Container Platform (CCP), Microsoft Azure, Nutanix, Red Hat e VMware. Il loro supporto per il GPU Operator assicura che i cluster siano configurati per i carichi di lavoro della GPU e che le prestazioni siano ottimali e coerenti.

EDGE COMPUTING NEI VARI SETTORI

La piattaforma NVIDIA EGX fornisce una base singola e unificata per applicazioni e framework IA edge leader di settore.

RETAIL

RETAIL

PRODUZIONE INDUSTRIALE

PRODUZIONE INDUSTRIALE

TELECOMUNICAZIONI

TELECOMUNICAZIONI

SMART CITY

SMART CITY

In Seagate, abbiamo sviluppato una soluzione di visione basata su GPU edge intelligente negli impianti di produzione per verificare la qualità delle testine di lettura e scrittura dell'hard disk. La piattaforma NVIDIA EGX accelera significativamente l'inferenza a livello periferico, permettendoci di individuare difetti minimi che gli operatori umani non riuscivano a intercettare in passato. Ci aspettiamo di ottenere un miglioramento della produttività fino al 10% e un aumento del ROI fino al 300% grazie alla maggiore efficienza e qualità.

— Bruce King, Data Scientist Senior Principale, Seagate Technology

L'IA è fondamentale per la sanità di precisione e deve essere disponibile in modo capillare dal cloud ai dispositivi periferici e direttamente sui dispositivi medicali. NVIDIA EGX permette a GE Healthcare di accelerare i tempi di acquisizione delle scansioni RM, migliora la qualità delle immagini e riduce la variabilità integrando le GPU NVIDIA T4 direttamente nei dispositivi medicali, aiutandoci a perseguire il nostro obiettivo di migliorare i risultati per i pazienti. I casi critici che necessitano di un intervento in tempo reale richiedono l'IA a livello periferico. Per questo abbiamo creato la nostra offerta di intelligence Edison e collaborato con NVIDIA per portare l'IA sui nostri dispositivi medicali e nelle applicazioni periferiche Edison. Ed è ancora per questo che lavoriamo con ACR AI-LAB per rendere l'IA sempre più accessibile.

— Jason Polzin, PhD, Direttore Generale delle applicazioni RM di GE Healthcare

Red Hat si impegna a fornire un'esperienza coerente per tutti i carichi di lavoro, ingombri e sedi, dal cloud ibrido ai dispositivi periferici. Abbinando le piattaforme Red Hat OpenShift e NVIDIA EGX, i clienti possono ottimizzare al meglio le operazioni distribuite con un ambiente coerente, ad alte prestazioni e basato sui container.

— Chris Wright, Direttore delle tecnologie, Red Hat

Le linee di produzione di PC Foxconn sono limitate dalla velocità dell'ispezione perché occorrono al momento quattro secondi per ispezionare manualmente ciascuna parte. Il nostro obiettivo è aumentare la produttività della linea di produzione di PC di oltre il 40%, utilizzando la piattaforma NVIDIA EGX per prendere decisioni intelligenti e in tempo reale per quanto riguarda i dispositivi periferici. Il nostro modello rileva e classifica 16 tipi di difetti e posizioni simultaneamente utilizzando reti neurali veloci eseguite su GPU NVIDIA, raggiungendo una precisione del 98% a una velocità sovrumana.

— Mark Chien, Direttore Generale, Foxconn D Group

Le NIC e gli switch Mellanox Smart offrono la connettività I/O ideale per l'accesso ai dati scalabile dai sistemi periferici ai data center hyperscale. La combinazione di alte prestazioni, bassa latenza e networking accelerato genera un nuovo tier di infrastruttura per il computing, fondamentale per accedere in modo efficiente ai dati e distribuirli secondo necessità per alimentare le soluzioni IA avanzate di nuova generazione sulle piattaforme periferiche come NVIDIA EGX.

— Michael Kagan, Direttore della tecnologia, Mellanox Technologies

Stack software di livello enterprise per EGX

Stack software di livello enterprise per EGX

NVIDIA EGX è uno stack software ottimizzato che include driver NVIDIA, un plug-in CUDA® Kubernetes, un container runtime CUDA Docke, librerie CUDA-X™ e framework e applicazioni IA in container, tra cui NVIDIA TensorRT™, TensorRT™ Inference Server e DeepStream. Lo stack NVIDIA EGX è ottimizzato per server pronti all'uso con NGC per Edge, mentre i grafici Helm per l'installazione saranno disponibili nel catalogo NVIDIA NGC.

PARTNER EGX

  • PRODUTTORI DI SERVER EDGE
  • PARTNER DI PIATTAFORME CLOUD IBRIDE
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
Supermicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware

NVIDIA EGX IN AZIONE

Iscriviti per saperne di più sulla piattaforma di edge computing NVIDIA EGX.