Cloud-to-Edge-Inferenz für intelligentere KI-Städte

SCHNELLERE VERARBEITUNG ERMÖGLICHT INFORMATIONEN IN ECHTZEIT

Unzählige Videokameras werden in modernen Städten zur Überwachung eingesetzt. Bis 2020 werden eine Milliarde im Einsatz sein. Diese Kameras generieren tagtäglich eine gewaltige Datenmenge. Deep Learning ist die beste Methode, um aus diesen Videorohdaten Informationen zu gewinnen, die sich als Handlungsgrundlage heranziehen lassen. Grafikprozessorbasierte Inferenz ist die einzige Möglichkeit, diese Aufgabe in Echtzeit zu bewältigen. Städte, die sich die NVIDIA Metropolis-Plattform zunutze machen, können das Leben für alle intelligenter und sicherer gestalten – von Autofahrern bis hin zu Fußgängern und von Händlern bis hin zu Einkäufern.

End-To-End GPU Inference

DURCHGEHENDE GPU-INFERENZ

Um aus den gewaltigen Mengen an Videodaten sinnvolle Informationen zu gewinnen, muss die Inferenz durchgehend, also von der Peripherie bis in die Cloud, erfolgen. NVIDIA Metropolis nutzt sowohl die sparsame Lösung NVIDIA Jetson™  in Kameras und Geräten in der Peripherie als auch die massive Rechenleistung von NVIDIA Tesla P4-basierten Servern in der Cloud, um eine komplette KI-Lösung bereitzustellen. Grafikprozessoren bieten den höchsten Durchsatz und die höchste Leistung pro Watt, die niedrigste Latenz und die höchste Kanaldichte. Dies schlägt sich in niedrigeren Betriebskosten im gesamten städtischen Netzwerk nieder.

AI For Embedded Devices

KI FÜR EINGEBETTETE GERÄTE

NVIDIA Jetson TX2 ist ein eingebetteter KI-Supercomputer für Anwendungen in der Peripherie. Das Modul ist gerade einmal so groß wie eine Kreditkarte und hat eine Leistungsaufnahme von 7,5 Watt. Es basiert auf der Grafikprozessorarchitektur NVIDIA Pascal™ und bietet 8 GB RAM und mehr als ein 1 TFLOPS Rechenleistung.

Mit dem programmierbaren Inferenzbeschleuniger NVIDIA TensorRT™ lassen sich Deep-Learning-Modelle weiter optimieren und spezialisieren. So entsteht eine Inferenz-Engine für neuronale Netze für die Produktionsbereitstellung von Deep-Learning-Anwendungen. TensorRT wird für schnelle Abläufe bei der Optimierung, Validierung und Bereitstellung von trainierten neuronalen Netzen für Inferenz eingesetzt, um Rechenzentren, Anwendungen in der Peripherie und weitere eingebettete Produktplattformen zu hyperskalieren.

NVIDIA Tesla® optimiert diese Leistung durch die Beschleunigung von Deep-Learning-Training und -Inferenz im Rechenzentrum.

Zusammen bieten diese Lösungen die höchste Leistung und beste Energieeffizienz für die verschiedensten Anwendungen, von Robotik über tragbare medizinische Geräte, intelligente Kameras, NVRs bis hin zu anderen Geräten in der Peripherie.

Superhuman Video Processing For Real-World Applications

ÜBERMENSCHLICHE VIDEOVERARBEITUNG FÜR ANWENDUNGEN IN DER REALEN WELT

Mittlerweile gehören fast 100 Partnerunternehmen zu NVIDIA Metropolis. Sie nutzen unsere branchenführende Edge-to-Cloud-Plattform, um die KI-Städte von morgen zu bauen. Einer dieser Partner, Verizon, arbeitet derzeit mit Städten mit dem Ziel zusammen, Gemeinden zu vernetzten und sie für die Zukunft zu rüsten. Dazu werden an Straßenlaternen und weiteren geeigneten Stellen in Städten intelligente Kameras mit NVIDIA-Technologie angebracht.

Deep-Learning-Inferenz mit hoher Leistung erfolgt dank NVIDIA Jetson in der Peripherie und dank NVIDIA Tesla über Server und Rechenzentren. Die massive Anzahl an Grafikprozessorelementen für parallele Berechnungen unterstützt Inferenz mit nur wenigen CPU-Operationen. Dies führt zu effizienteren Echtzeit-Datenanalysen und reduziert das kostspielige Streamen und Speichern von Videos über LTE und WLAN.

Daher ist Verizon in der Lage, Objekte wie Fahrzeuge, Radfahrer und Fußgänger zu klassifizieren, ihre Wege nachzuverfolgen und ihre Interaktionen in Echtzeit zu identifizieren. So entsteht rund um die Uhr ein Datenfluss, dem die Verantwortlichen in Städten alle wichtigen Informationen entnehmen können, von der Missachtung von Ampelsignalen über Passanten, die nicht die vorgesehenen Fußgängerüberwege nutzen, bis hin zu Zahlen zu Parkplätzen. 

MÖCHTEN SIE ERFAHREN, WIE NVIDIA METROPOLIS IHRE STADT TRANSFORMIEREN KANN?