Hochschulen und Forschung
CYRAN AI dekodiert Gigapixel-Satellitenbilder am Edge mit NVIDIA DGX Spark
Ziel
CYRAN AI Solutions, ein KI-natives Deep-Tech-Start-up, das aus der NVM und Neuromorphic Hardware Research Group des IIT Delhi hervorgegangen ist, entwickelt Sensorfusionsplattformen für geospatiale Intelligenz, Sicherheit und Industrie-4.0-Anwendungen. Die SpatialFuse-Plattform verbindet Daten aus der Umlaufbahn, aus der Luft und vom Boden in geospatiale Echtzeit-Intelligenz – aber für die Analysten und Ingenieure, die im Orbit und in Air-Gap-Umgebungen darauf vertrauen, ist die Pipeline nur so schnell wie ihr langsamster Schritt. Dieser Schritt wurde dekodiert.
Durch die Kombination der einheitlichen Speicherarchitektur von NVIDIA DGX Spark™ mit GPU-beschleunigter JPEG-2000-Verarbeitung durch die neue PixelFlux-Bibliothek verk rzte CYRAN die Dekodierungszeit einer 26-GB-Satellitenszene von über fünf Minuten auf etwas mehr als zwei Minuten – eine wirklich interaktive Geospatialanalyse auf lokaler Hardware, ohne dass eine Cloud in Sicht war.
Kunde
CYRAN-KI-Lösungen
Partner
Indian Institute of Technology Delhi (IIT Delhi)
Thema
Edge-Computing
Geospatiale KI/Edge-Inferenz
Produkte
Das Wichtigste im Überblick
3-MAL SCHNELLER
- JPEG-2000-Dekodierung gegenüber CPU-Basis: Eine 26-GB-Satelliten-Szene sinkt von mehr als 5 Minuten auf etwas mehr als 2 Minuten.
2-mal schneller
- Als eine diskrete GPU-Workstation bei großen Bildgrößen, durch die Beseitigung eines Speicherengpasses auf Hardwareebene, den die Architektur von DGX Spark vollständig beseitigt.
Zero Cloud
- Interaktive Szenenanalysen werden vollständig auf lokaler Hardware ausgeführt – dies ermöglicht Air-Gap- und souveräne Intelligence-Bereitstellungen.
Entschlüsselung von Daten im Wert eines Planeten
Satelliten, Drohnen und Bodensensoren generieren Geodaten in einem Tempo, das die dafür entwickelten Tools übertrifft. Die SpatialFuse-Plattform von CYRAN wurde entwickelt, um Intelligence am Edge bereitzustellen – in vorgelagerten Einsatzzentren, sicheren Air-Gap-Umgebungen und schließlich an Bord von Raumfahrtplattformen – und jede Phase der Pipeline muss leistungsfähig sein. Das KI-Modell ist nicht der Engpass. Der Dekodierungsschritt ist.
JPEG 2000 ist das dominierende Komprimierungsformat in der Erdbeobachtung – es wird von Sentinel-2, dem USGS, Maxar und praktisch jeder wichtigen Satellitendatenquelle verwendet. Einzelne Szenen überschreiten routinemäßig 10 GB unkomprimiert. Auf einer Standard-CPU-Pipeline dauerte die Dekodierung einer 26-GB-Satellitenszene über fünf Minuten. Das ist keine geringfügige Unannehmlichkeit. Es handelt sich um einen Pipeline-Stopp, der iterative Analyse-Workflows unterbricht und die interaktive Erforschung großer Szenen praktisch unmöglich macht.
Der gleiche Engpass betrifft die digitale Pathologie und das digitale Kino – jeden Bereich, in dem JPEG-2000 Standard ist und Datenmengen schneller gewachsen sind als die dafür entwickelten Tools. Für die Kunden von CYRAN in der Industrie 4.0, in den Bereichen Verteidigung und souveräne Intelligence, in denen Cloud-Round-Trips keine Option sind, war der einzige Weg nach vorn eine lokale Hardwarelösung, die in der Lage ist, Gigapixel-Bilder mit interaktiver Geschwindigkeit zu dekodieren. Was es brauchte, war Hardware, die mit den Sensoren Schritt halten konnte.
Cyran AI Solutions
Edge-KI-Inferenz auf Satellitenbildern mit Cyran SpatialFuse auf NVIDIA DGX Spark.
Beseitigung des versteckten Engpasses mit PixelFlux
Die Antwort lag in der Architektur von NVIDIA DGX Spark. DGX Spark basierte auf der GB10-Plattform mit einer NVIDIA Blackwell-GPU und einer NVIDIA Grace™-CPU, die einen einheitlichen LPDDR5X-Speicherpool teilen, und bot zwei Eigenschaften, die keine diskrete GPU-Workstation für diesen Workload bieten konnte.
Die erste war GPU-beschleunigte JPEG-2000-Dekodierung. NVIDIA nvJPEG2000 verlagert die rechenintensivsten Phasen der Bilddekodierung von der CPU auf die GPU und ermöglicht so einen Durchsatz, der CPU-basierte Pipelines im Maßstab von Erdbeobachtungsdaten einfach nicht erreichen können.
Der zweite war Unified Memory. Auf einer diskreten GPU-Konfiguration – sogar einer High-End NVIDIA RTX™ A6000 Ada – müssen dekodierte Bildpuffer nach der GPU-Verarbeitung zurück in den Host-Speicher kopiert werden. Auf NVIDIA DGX Spark teilen die GPU und die CPU den gleichen Speicherpool, sodass dekodierte Bilddaten sofort ohne Übertragungsschritte verfügbar sind. Diese Eliminierung von Overhead wird wertvoller, je größer die Bildgröße zunimmt – was genau das Regime ist, das für geospatiale Workloads im Gigapixel wichtig ist.
CYRAN hat diesen Technologie-Stack in PixelFlux, einer GPU-beschleunigten JPEG-2000-Dekodierungsbibliothek, die auf NVIDIA nvJPEG2000 basiert, operationalisiert. PixelFlux ersetzt den CPU-basierten Dekodierungspfad vollständig und gibt dekodierte Bilddaten zurück, die für die sofortige Verwendung bereitstehen – ohne Übertragungsaufwand auf DGX Spark.
Für Trainingspipelines für maschinelles Lernen lässt sich PixelFlux in NVIDIA DALI integrieren, um die GPU kontinuierlich aus dem lokalen Datenspeicher zu speisen – ohne dass die CPU-Vorverarbeitung zum Engpass wird. Die gesamte Lösung läuft auf NVIDIA-Hardware und -Software, ohne dass Infrastruktur von Drittanbietern erforderlich ist.
Vom Pipeline-Stopper zur interaktiven Analyse
Die Ergebnisse sind eindeutig. Eine 26-GB-Satelliten-Szene, die zuvor mehr als f¼nf Minuten CPU-Dekodierungszeit benötigte, ist jetzt in etwas mehr als zwei Minuten auf NVIDIA DGX Spark abgeschlossen – auf einem System, das kompakt genug ist, um in einem operativen Zentrum oder in einer sicheren, physisch isolierten Umgebung (Air-Gapped) bereitgestellt zu werden.
Benchmark-Ergebnisse (3-Band-uint16-RGB, Mittelwert ± Std.-Abw., N=10 Durchgänge)
„Die einheitliche Speicherarchitektur von NVIDIA DGX Spark ist eine revolutionäre Verbesserung – sie beseitigt einen grundlegenden Rechen-Engpass auf der Hardwareebene aus geospatialen Verarbeitungspipelines. Die weitere Bündelung der lokalisierten SpatialFuse-Plattform von CYRAN mit Spark ermöglicht neue optimierte Full-Stack-Lösungen f¼r die End-to-End-GeoKI-Verarbeitung, vom Orbit bis zu den Bodenstationen.“
– Dr. Vivek Parmar, CTO, CYRAN AI Solutions
| Image (HxW) | Compressed | Uncompressed | CPU | A6000 Ada | DGX Spark | vs CPU | vs A6000 Ada |
|---|---|---|---|---|---|---|---|
| 2,654 x 6,152 | 38 MB | 93 MB | 1.39s | 0.53s | 0.56s | 2.42x | 1.15x |
| 2,654 x 34,816 | 179 MB | 528 MB | 4.86s | 2.74s | 1.57s | 3.12x | 1.92x |
| 34,816 x 34,816 | 2,862 MB | 6,936 MB | 65.67s | 35.44s | 16.32s | 2.41x | 2.02x |
| 117,504 x 39,168 | 1,333 MB | 26,335 MB | 298.56s | 210.77s | 115.11s | 2.33x | 1.59x |
Alle Zeiten in Sekunden. DGX Spark f±hrt in jedem Maßstab.
Die Leistungslücke vergrößert sich mit der Bildgröße – und genau das ist der Punkt. Im Vergleich zur NVIDIA RTX A6000 Ada gewinnt NVIDIA DGX Spark um das 1,15-Fache in der kleinsten Testszene. Von einem halben Gigabyte aufwärts wächst der Vorteil auf mehr als das Doppelte – und wird weiter skaliert. Je größer das Bild, desto mehr Zeit wendet eine herkömmliche Workstation für die Datenübertragung auf, die durch die einheitliche Speicherarchitektur von DGX Spark vollständig eliminiert wird.
Die geschäftlichen Auswirkungen gehen über den Rohdurchsatz hinaus. Entwicklungs- und Debugging-Zyklen, die zuvor Cloud-Infrastruktur oder Multi-GPU-Server erforderten, laufen jetzt am Schreibtisch. Die Analysten und Ingenieure für maschinelles Lernen von CYRAN können zum ersten Mal wirklich interaktive Analysen großer Szenen auf lokaler Hardware durchführen. Für Kunden aus den Bereichen Industrie 4.0, Verteidigung und souveräne Intelligenz, für die Cloud-Infrastruktur keine Option ist, ist diese Fähigkeit kein Komfort – sondern eine Anforderung. Die Ergebnisse sprachen für etwas Größeres.
Die Edge erstreckt sich bis in die Umlaufbahn
CYRAN baut jetzt auf dem auf, was PixelFlux gezeigt hat. Die nvJPEG2000-Bibliothek ist über NVIDIA Blackwell-basierte Cloud- und Rechenzentrumsbereitstellungen hinweg portabel, was bedeutet, dass lokal auf NVIDIA DGX Spark entwickelte und validierte Pipelines ohne Nacharbeit auf Cloud- und Rechenzentrumsumgebungen skalieren – ein direkter Weg vom Edge-Prototyp bis zur Produktion.
Laut Gründer Prof. Manan Suri untersucht CYRAN über die terrestrische Intelligenz hinaus die Übertragung von Edge-KI-Fähigkeiten auf Satelliten und fortschrittliche Weltraum-Nutzlasten für Inferenz im Orbit. Da die Anzahl weltraumgestützter Sensoren schnell wächst, sind die Rechenbeschränkungen im Orbit noch strenger als an der Edge – und die gleichen architektonischen Prinzipien, die NVIDIA DGX Spark dort effektiv machen, gelten direkt: schnelle lokale Verarbeitung, effiziente Speichernutzung und Hardware, die für eingeschränkte Umgebungen entwickelt wurde.
Als weiterhin bestehendes Mitglied des NVIDIA Inception-Programms ist CYRAN an der Grenze der geospatialen KI, des Edge-Computings und der weltraumgestützten Intelligenz tätig – und die Architektur hinter PixelFlux ist das Fundament, auf dem das Unternehmen aufbaut. Was als fünfminütiges Dekodierungsproblem begann, ist zum Beweis geworden, dass der gesamte Stack geospatialer Intelligenz – vom Sensor bis zu Erkenntnissen – überall eingesetzt werden kann.
CYRAN AI Solutions ist ein Mitglied des NVIDIA Inception-Programms und ein IIT-Delhi-Spin-out. Erfahren Sie mehr unter cyran.in.
Erfahren Sie, wie NVIDIA DGX Spark geospatiale Workflows transformiert.