IA en temps réel à la périphérie des réseaux

Communiquez avec vos clients en temps réel. Adaptez-vous rapidement aux flux de données collectés par des milliards de capteurs, des usines aux supermarchés. Diagnostiquez instantanément des maladies pour sauver des vies. Du commerce de détail aux services de santé en passant par la production industrielle, transportation ou les villes connectées, élargissez le champ des possibles grâce aux capacités incomparables de l’IA et de la plateforme NVIDIA EGX, qui apporte à la périphérie des réseaux la puissance phénoménale du calcul accéléré par l’IA.

Performance et évolutivité

La plateforme EGX est basée sur le module ultra-compact NVIDIA® Jetson Nano, qui peut fournir un demi-trillion d’opérations par seconde (TOPs) en consommant quelques Watts seulement pour le traitement de tâches telles que la reconnaissance d’images. Vous pouvez faire évoluer cette plateforme avec un rack complet de serveurs NVIDIA T4, ce qui vous permet de bénéficier d'une puissance brute de plus de 10 000 TOPs pour prendre en charge des centaines d’utilisateurs en temps réel pour la reconnaissance vocale ou d’autres expériences d’IA complexes.

Cloud hybride et IoT multicloud

NVIDIA EGX est compatible sur le plan architectural avec les solutions de calcul IA de NVIDIA mises en œuvre par les principaux fournisseurs de services Cloud. Les applications d’IA développées dans le Cloud peuvent être exécutées sur NVIDIA EGX, et vice versa. NVIDIA Edge Stack se connecte aux principaux services d’IoT dans le Cloud, et les clients peuvent gérer à distance leur service via AWS IoT Greengrass et Microsoft Azure IoT Edge.

Services d’entreprise dédiés avec sécurité optimisée

La pile logicielle NVIDIA Edge Stack a été optimisée sur Red Hat OpenShift, la plateforme d’entreprise majeure pour l’orchestration des conteneurs Kubernetes. Les cartes d’interface réseau Mellanox Smart peuvent décharger et accélérer les réseaux définis par logiciel (SDN) pour fournir un meilleur niveau d’isolation et de sécurité sans impacter les performances CPU.

Chez Seagate, nous avons déployé une solution de vision intelligente accélérée par GPU en périphérie des réseaux, de manière à analyser avec davantage d’efficacité la qualité des têtes de lecture et d’écriture des disques durs sur nos sites de production. La plateforme NVIDIA EGX accélère de manière significative l’inférence sur systèmes Edge, ce qui nous permet de détecter des défauts de production qu’un opérateur humain n’aurait pas été en mesure de voir. Avec cette hausse de l’efficacité et de la qualité, nous nous attendons à bénéficier d’un gain de rendement pouvant atteindre 10 % et d’un retour sur investissement jusqu’à 300 % plus important.

— Bruce King, Responsable senior de la science des données, Seagate Technology

Les technologies d’IA sont essentielles à la médecine de précision, c’est pourquoi elles doivent être inconditionnellement disponibles sur nos appareils médicaux, du Cloud aux systèmes Edge. La plateforme NVIDIA EGX a permis à GE Healthcare de réduire les délais d’acquisition de l’imagerie par résonance magnétique, en améliorant la qualité d’image et en minimisant la variabilité grâce à l’intégration de GPU NVIDIA T4 directement dans nos appareils médicaux - l’objectif étant bien entendu d’améliorer les soins apportés aux patients. Les cas d’utilisation les plus critiques en temps réel nécessitent de recourir à l’IA en périphérie des réseaux. C’est dans ce cadre que nous avons développé notre offre Edison et que nous nous sommes associés à NVIDIA pour mettre en œuvre l’IA via nos appareils médicaux et nos appliances Edge. Nous travaillons en outre avec ACR AI-LAB pour continuer de démocratiser les technologies d’IA.

— Jason Polzin, PhD, Responsable des applications de résonance magnétique, GE Healthcare

Red Hat s’engageà fournir une expérience utilisateur fiable et cohérente pour toutes les charges de travail et toutes les configurations, des solutions Cloud hybrides jusqu’à la périphérie des réseaux. En combinant les plateformes Red Hat OpenShift et NVIDIA EGX, nos clients peuvent mieux optimiser leurs opérations distribuées grâce à un environnement efficace et performant basé sur les conteneurs.

— Chris Wright, Directeur de la technologie, Red Hat

Les lignes de production PC de Foxconn sont limitées par les délais d'inspection. Il faut actuellement quatre secondes pour inspecter manuellement chaque composant. Notre objectif consiste à augmenter de 40 % le rendement de notre ligne de production PC en utilisant la plateforme NVIDIA EGX pour prendre des décisions intelligentes en temps réel à la périphérie des réseaux. Notre modèle peut détecter et classer simultanément 16 emplacements et types de défaut en ayant recours à des réseaux de neurones rapides sur des GPU NVIDIA, avec un taux de précision de 98 % et une vitesse surhumaine.

— Mark Chien, Directeur général, Foxconn D Group

Les commutateurs et les cartes d’interface réseau Mellanox Smart fournissent la connectivité E/S idéale pour accéder à des données allant des systèmes Edge aux centres de données Hyperscale. Les nouvelles procédures de mise en réseau accélérées par GPU, à hautes performances et à faible latencem permettent de mettre en œuvre une infrastructure informatique novatrice à même de localiser et de transmettre efficacement les données requises par la nouvelle génération des solutions d’IA avancées sur des plateformes Edge telles que NVIDIA EGX.

— Michael Kagan, Directeur de la technologie, Mellanox Technologies

Pile logicielle d’entreprise pour les systèmes Edge

nvidia-egx-platform-software-stack-1cN-D

NVIDIA Edge Stack est une pile logicielle optimisée qui comporte des pilotes NVIDIA, un plug-in CUDA® Kubernetes, un module d’exécution de conteneur CUDA Docker, des bibliothèques CUDA-X ainsi que des applications et des frameworks d’IA conteneurisés incluant NVIDIA TensorRT, TensorRT Inference Server et DeepStream.

PARTENAIRES EGX

  • Serveur Edge
  • Microserveur Edge

NVIDIA EGX EN ACTION

Obtenez plus d’informations sur la plateforme de calcul NVIDIA EGX pour systèmes Edge.