La piattaforma NVIDIA EGX per l'Edge Computing

Le azienda ormai operano fino all'estremità della rete. In fabbrica. Nei negozi. Nelle città. Nelle strutture di soccorso sanitario. All'estremità della rete, i dati fluiscono da miliardi di sensori IoT per essere elaborati dai server periferici, supportando decisioni in tempo reale dove servono. Tutto questo è possibile: retail, sanità, produzione, trasporto e città intelligenti, con la piattaforma NVIDIA EGX, che porta la potenza dell'IA accelerata nei sistemi periferici.

L'IA in tempo reale fino all'estremità della rete

La piattaforma NVIDIA EGX offre la potenza del calcolo accelerato con IA fino ai sistemi che operano all'estremità della rete con uno stack software nativo su cloud semplice da distribuire, una gamma di server e dispositivi convalidati e un vasto ecosistema di partner che offrono EGX attraverso i loro prodotti e servizi.

Esecuzione di container IA

Il catalogo NGC include una vasta gamma di software accelerato da GPU per EGX, tra cui grafici Helm per la distribuzione su Kubernetes. NGC include container per i principali software di scienza dei dati e IA, calibrati, testati e ottimizzati da NVIDIA. Il catalogo offre inoltre l'accesso a modelli preaddestrati di terze parti specifici per dominio e grafici Helm per Kubernetes che semplificano la distribuzione di software potente o la creazione di soluzioni personalizzate.

Nativo su cloud, l'edge in primo piano

NVIDIA EGX è uno stack software nativo del cloud e scalabile che mette l'edge in primo piano per permettere all'IT di eseguire il provisioning rapido e semplice di server con GPU. Componente principale di EGX è NVIDIA GPU Operator, che standardizza e automatizza la distribuzione di tutti i componenti necessari per il provisioning di cluster Kubernetes basati su GPU.

Server compatibili con EGX

La gamma hardware EGX inizia con il piccolo NVIDIA® Jetson Nano™, che con pochi watt è in grado di fornire mezzo trilione di operazioni al secondo (TOPS) nell'elaborazione di attività come il riconoscimento delle immagini. E continua fino alla gamma completa di server NVIDIA T4, che offrono oltre 10.000 TOPS per servire centinaia di utenti con funzionalità di riconoscimento del linguaggio in tempo reale e altre esperienze IA complesse.

IA Edge più sicuro e potente

NVIDIA EGX A100 abbina le potenti prestazioni dell'architettura NVIDIA Ampere alla sicurezza potenziata e alle capacità di riduzione della latenza di NVIDIA Mellanox® ConnectX-6 Dx SmartNIC per offrire un'elaborazione IA in tempo reale più sicura, sul perimetro della rete.

Scalabilità IA dall'edge al data center

Scalabilità IA dall'edge al data center

La piattaforma NVIDIA EGX include una gamma scalabile di server convalidati pronti per NGC e compatibili con Edge, da dalla gestione delle fotocamere per il traffico cittadino con Jetson Nano, a un singolo edge server con GPU NVIDIA installato nel retro di un negozio, fino a un'intera flotta di server, includo un micro data center per le operazioni di telecomunicazioni. A prescindere dalle dimensioni, lo stack NVIDIA EGX è compatibile con una vasta gamma di applicativi, consentendo alle aziende di scalare le operazioni sull'edge rapidamente e in modo efficiente, da fotocamere a dispositivi, fino a grandi data center remoti.

La rivoluzione IoT con l'IA e il 5G

Accelerare la rivoluzione dell'IoT con l'IA e il 5G

Il 5G ci sta portando nella nuova era delle comunicazioni wireless, caratterizzata da una latenza 10 volte più bassa e da una larghezza di banda 1000 volte maggiore. Introduce inoltre il concetto di network slicing, che consentirà alle compagnie di telecomunicazioni di offrire in modo dinamico servizi esclusivi ai clienti. Nel percorso che porterà al 5G, le compagnie si concentreranno su una gamma di applicazioni software-defined eseguite all'estremità della rete, dall'IA alla realtà aumentata fino al gaming. Con NVIDIA EGX e il nuovo NVIDIA Aerial SDK, le reti di accesso radio virtuali (vRAN) software-defined e accelerate da GPU diventeranno una realtà in tempi record.

Stack NVIDIA EGX

Semplicità IT per la distribuzione sull'edge

Con lo stack NVIDIA EGX, i problemi riscontrati tipicamente dall'IT per l'installazione del software sui sistemi remoti scompaiono. Con i grafici Helm, i container e l'integrazione ed erogazione continue (CI/CD), le aziende possono ora distribuire container IA aggiornati in pochi minuti e senza fatica.

NVIDIA GPU Operator basato su Kubernetes risolve il problema della necessità di immagini univoche del sistema operativo tra nodi GPU e CPU; al contrario, il GPU Operator mette insieme tutto il necessario per supportare una GPU Tesla: il driver, il runtime del container, il plug-in del dispositivo e il monitoraggio della distribuzione con grafici Helm. Ora una singola immagine (gold master) copre i nodi CPU e GPU.

Gestione del cloud ibrido

Compatibile con le piattaforme di gestione Kubernetes

La possibilità di distribuire, scalare e gestire un cluster Kubernetes di livello enterprise e di produzione è fondamentale. L'architettura dello stack EGX è supportata da partner di piattaforme per cloud ibrido leader: Canonical, Cisco Container Platform (CCP), Microsoft Azure, Nutanix, Red Hat e VMware. Il loro supporto per il GPU Operator assicura che i cluster siano configurati per i carichi di lavoro della GPU e che le prestazioni siano ottimali e coerenti.

Edge Computing nei vari settori

La piattaforma NVIDIA EGX fornisce una base singola e unificata per applicazioni e framework IA edge leader di settore.


In Seagate, abbiamo sviluppato una soluzione di visione basata su GPU edge intelligente negli impianti di produzione per verificare la qualità delle testine di lettura e scrittura dell'hard disk. La piattaforma NVIDIA EGX accelera significativamente l'inferenza a livello periferico, permettendoci di individuare difetti minimi che gli operatori umani non riuscivano a intercettare in passato. Ci aspettiamo di ottenere un miglioramento della produttività fino al 10% e un aumento del ROI fino al 300% grazie alla maggiore efficienza e qualità.

— Bruce King, Data Scientist Senior Principale, Seagate Technology


L'IA è fondamentale per la sanità di precisione e deve essere disponibile in modo capillare dal cloud ai dispositivi periferici e direttamente sui dispositivi medicali. NVIDIA EGX permette a GE Healthcare di accelerare i tempi di acquisizione delle scansioni [RM], migliora la qualità delle immagini e riduce la variabilità integrando le GPU NVIDIA T4 direttamente nei dispositivi medicali, aiutandoci a perseguire il nostro obiettivo di migliorare i risultati per i pazienti. Nella medicina critica in tempo reale l'IA sull'edge è essenziale. Per questo abbiamo creato la nostra offerta di intelligence Edison e collaborato con NVIDIA per portare l'IA sui nostri dispositivi medicali e nelle applicazioni periferiche Edison. Ed è ancora per questo che lavoriamo con ACR AI-LAB per rendere l'IA sempre più accessibile.

— Jason Polzin, PhD, Direttore Generale delle applicazioni RM di GE Healthcare


Red Hat si impegna a fornire un'esperienza coerente per tutti i carichi di lavoro, ingombri e sedi, dal cloud ibrido ai dispositivi periferici. Abbinando le piattaforme Red Hat OpenShift e NVIDIA EGX, i clienti possono ottimizzare al meglio le operazioni distribuite con un ambiente coerente, ad alte prestazioni e basato sui container.

— Chris Wright, Direttore delle tecnologie, Red Hat


Avitas è al lavoro per rivoluzionare la gestione dell'integrità delle risorse con la nostra piattaforma di previsione e ispezione digitale. Il nostro approccio unico combina analisi avanzate con tecniche di ispezione autonome che aiutano i clienti a fornire soluzioni energetiche più sicure, più pulite e più efficienti. NVIDIA è un partner importante nel contribuire a scalare le funzionalità sui sistemi periferici con la piattaforma EGX.

— Jason Roe, CEO – Avitas Systems, a Baker Hughes Venture

Le schede NIC e gli switch smart di Mellanox offrono la connettività [input/output (I/O)] ideale per l'accesso ai dati scalabile dai dispositivi edge fino ai data center hyperscale. La combinazione di bassa latenza, alte prestazioni e rete accelerata garantisce un nuovo livello infrastrutturale di calcolo essenziale per accedere e fornire in modo efficiente i dati necessari per alimentare la nuova generazione di soluzioni IA avanzate sulle piattaforme edge come NVIDIA EGX.

— Michael Kagan, Direttore della tecnologia, Mellanox Technologies

Stack software di livello enterprise per EGX

Stack software di livello enterprise per EGX

NVIDIA EGX è uno stack software ottimizzato che include driver NVIDIA, un plug-in CUDA® Kubernetes, un runtime di container CUDA Docker, librerie CUDA-X™ nonché framework e applicazioni IA containerizzati, tra cui NVIDIA TensorRT™, TensorRT Inference Server e DeepStream. Lo stack NVIDIA EGX è ottimizzato per NGC-Ready per server Edge, e grafici Helm per l'installazione saranno disponibili nel registro NVIDIA NGC.

Partner EGX

  • Produttori di server Edge
  • Partner di piattaforme cloud ibride
  • Partner per il server Jetson Micro Edge
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
SuperMicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware
Aaeon
Adlink
Advantech
AIMobile
Auvidea
AverMedia
CTI
Diamond Systems
Leopard Imaging
MiiVii
RealTimes

NVIDIA EGX in azione

Iscriviti per saperne di più sulla piattaforma di edge computing NVIDIA EGX.