Echtzeit-KI für Edge-Anwendungen

Kommunizieren Sie mit Kunden in Echtzeit. Passen Sie sich schnell an neue Gegebenheiten an, wenn Daten von Milliarden von Sensoren – von der Fabrikhalle bis zu einzelnen Lagergängen – fließen. Diagnostizieren Sie Erkrankungen umgehend und sorgen Sie für eine lebensrettende Patientenversorgung. Intelligenter Einzelhandel, intelligente Gesundheitsversorgung, Fertigung, intelligenter Transport und intelligente Städte—all dies ist mit der heutigen leistungsstarken KI und der NVIDIA EGX-Plattform möglich, die die Leistung des beschleunigten KI-Computings für Edge-Anwendungen nutzbar macht.

Leistungsstark und skalierbar

EGX umfasst zum einen den kleinen NVIDIA® Jetson Nano, der schon bei einer geringen Watt-Leistung eine halbe Billion Operationen pro Sekunde (TOPS) für die Verarbeitung von Aufgaben, z. B. in der Bilderkennung, bereitstellen kann. Hinzu kommt ein vollständiges Rack mit NVIDIA T4 servers, die mehr als 10.000 TOPS liefern, um Hunderten von Benutzern Echtzeit-Spracherkennung und andere komplexe KI-Erlebnisse zu ermöglichen.

Hybrid Cloud- und Multicloud-IoT

NVIDIA EGX ist architektonisch kompatibel mit NVIDIA-KI-Computing, wie es von bedeutenden Clouds angeboten wird. In der Cloud entwickelte KI-Anwendungen laufen auf NVIDIA EGX und umgekehrt. NVIDIA Edge Stack kann mit den wichtigsten Cloud IoT-Diensten verbunden werden und Kunden können ihren Service über AWS IoT Greengrass und Microsoft Azure IoT Edge remote verwalten.

Unternehmenstauglich und sicher

NVIDIA Edge Stack wurde auf Red Hat OpenShift, der führenden Kubernetes Container-Orchestrierungsplattform für Unternehmen, optimiert. Smart NICs von Mellanox können softwaredefinierte Netzwerke entlasten und beschleunigen, um ein höheres Maß an Isolation und Sicherheit zu gewährleisten, ohne die CPU-Leistung zu beeinträchtigen.

Bei Seagate haben wir in unseren Produktionsstätten eine intelligente Edge-GPU-basierte Vision-Lösung eingesetzt, um die Qualität unserer Festplatten-Schreib-/Leseköpfe zu überprüfen. Die NVIDIA EGX-Plattform beschleunigt die Inferenz in der Peripherie drastisch und ermöglicht es uns, kleinste Fehler zu erkennen, die menschliche Bediener in der Vergangenheit nicht sehen konnten. Wir erwarten eine Verbesserung des Produktionsdurchsatzes um bis zu 10 Prozent und einen ROI von bis zu 300 Prozent durch verbesserte Effizienz und Qualität.

— Bruce King, Senior Principal Data Scientist, Seagate Technology

KI ist von grundlegender Bedeutung für die Erreichung einer präzisen Patientenversorgung und muss von der Cloud bis hin zur Peripherie und direkt auf Medizinprodukten durchgängig verfügbar sein. EGX von NVIDIA ermöglicht es GE Healthcare, schnelle MR-Aufnahmezeiten zu erreichen, die Bildqualität zu verbessern und die Variabilität zu reduzieren. Dies erreichen wir durch die direkte Integration von NVIDIA T4-GPUs in unsere Medizinprodukte. Mit alldem zielen wir darauf ab, die Resultate für unsere Patienten zu verbessern. Echtzeit-Anwendungsfälle in der Intensivmedizin erfordern KI in der Peripherie. Aus diesem Grund haben wir unser Edison-Intelligence-Angebot entwickelt und sind mit NVIDIA eine Partnerschaft eingegangen, um KI in unsere Medizinprodukte und Edison-Edge-Appliances zu integrieren. Aus diesem Grund arbeiten wir auch mit ACR AI-LAB zusammen, um die KI-Nutzung zu demokratisieren.

— Jason Polzin, PhD, General Manager of MR Applications bei GE Healthcare

Red Hat ist bestrebt, ein einheitliches Erlebnis für alle Workloads, Footprints und Standorte zu bieten, von der Hybrid-Cloud bis zur Peripherie. Durch die Kombination von Red Hat OpenShift und NVIDIA EGX-fähigen Plattformen können Kunden ihre verteilten Abläufe mit einer konsistenten, leistungsstarken und containerzentrierten Umgebung besser optimieren.

— Chris Wright, Chief Technology Officer, Red Hat

Die PC-Produktionslinien von Foxconn sind durch die Inspektionsgeschwindigkeit begrenzt, da die manuelle Inspektion jedes Teils derzeit vier Sekunden dauert. Unser Ziel ist es, den Durchsatz der PC-Produktionslinie mit der NVIDIA EGX-Plattform für intelligente Echtzeit-Entscheidungen in der Peripherie um über 40 Prozent zu steigern. Unser Modell erkennt und klassifiziert 16 Fehlertypen und -orte und nutzt schnelle neuronale Netzwerke, die auf NVIDIA-GPUs laufen. Es erreicht 98 Prozent Genauigkeit bei einer dem Menschen überlegenen Durchsatzrate.

— Mark Chien, General Manager, Foxconn D Group

Smart NICs und Switches von Mellanox bieten die ideale I/O-Konnektivität für den Datenzugriff – von der Peripherie bis hin zu Hyperscale-Rechenzentren. Die Kombination aus leistungsstarkem, latenzarmem und beschleunigtem Networking bietet eine neue Infrastrukturschicht des Computings, die entscheidend für den effizienten Zugriff und die Bereitstellung der Daten ist, die für die nächste Generation fortschrittlicher KI-Lösungen auf Edge-Plattformen wie NVIDIA EGX erforderlich sind.

— Michael Kagan, Chief Technology Officer, Mellanox Technologies

Software-Stack der Unternehmensklasse für Edge-Anwendungen

nvidia-egx-platform-software-stack-1cN-D

NVIDIA Edge Stack ist ein optimierter Software-Stack, der NVIDIA-Treiber, ein CUDA® Kubernetes-Plugin, eine CUDA Docker-Containerlaufzeit, CUDA-X-Bibliotheken und containerisierte KI-Frameworks und -Anwendungen enthält, einschließlich NVIDIA TensorRT, TensorRT Inference Server und DeepStream.

EGX-PARTNER

  • Edge-Server
  • Edge-Microserver

NVIDIA EGX IN AKTION

Erfahren Sie mehr über die Edge-Computing-Plattform NVIDIA EGX.