Enseignement supérieur / Recherche
CYRAN AI utilise NVIDIA DGX Spark pour décoder l'imagerie satellite à gigapixels à l'Edge
Objectif
CYRAN AI Solutions, une startup de Deeptech spécialisée dans l'IA native et issue du NVM and Neuromorphic Hardware Research Group fondé par l'IIT Delhi, œuvre à créer des plateformes de fusion de capteurs pour le renseignement géospatial, la sécurité et les applications de l'industrie 4.0. Sa plateforme SpatialFuse fusionne les données collectées en orbite, dans les airs et au sol pour les convertir en intelligence géospatiale en temps réel. Cependant, pour les équipes d'analyse et d'ingénierie qui s'appuient sur cette plateforme à l'Edge, en orbite et dans les environnements en isolation physique de type "air gap", la rapidité du pipeline est impactée par son étape la plus chronophage. Cette étape a été décodée.
En combinant l'architecture de mémoire unifiée de NVIDIA DGX Spark™ avec le traitement JPEG 2000 accéléré par GPU grâce à sa nouvelle bibliothèque PixelFlux, CYRAN a réduit le délai de décodage d'une scène satellitaire d'un poids de 26 Go de près de cinq minutes à seulement un peu plus de deux minutes, fournissant ainsi des capacités d'analyse géospatiale véritablement interactives sur du matériel local, sans recours au Cloud.
Client
CYRAN AI Solutions
Partenaire
Institut indien de technologie de Delhi (IIT Delhi)
Domaine
Edge Computing
IA géospatiale / Inférence à l'Edge
Produits
Principaux enseignements
3 fois plus de rapidité
- Pour le décodage JPEG 2000 par rapport à un CPU de référence. Le traitement d'une scène satellitaire de 26 Go passe ainsi de plus de 5 minutes à seulement un peu plus de 2 minutes.
2 fois plus de rapidité
- Par rapport à une station de travail avec un GPU dédié pour les grandes tailles d'image. Cela fait disparaître un goulot d'étranglement de la mémoire au niveau matériel grâce à l'architecture de DGX Spark, qui est en mesure d'éliminer entièrement.
Zéro Cloud
- L'analyse interactive des scènes de grande taille s'exécute entièrement sur du matériel local, permettant ainsi de réaliser des déploiements air gap et d'intelligence souveraine.
Déchiffrer les données à l'échelle planétaire
Les satellites, les drones et les capteurs au sol génèrent aujourd'hui des volumes des données géospatiales à un rythme qui dépasse les outils conçus pour les traiter. La plateforme SpatialFuse de CYRAN a été conçue pour fournir de l'intelligence à l'Edge (dans les centres d'opérations avancés, dans les environnements air gap sécurisés et, à terme, dans les plateformes spatiales), mais aussi pour que chaque étape du pipeline soit performante. Le modèle d'IA ne constitue pas le goulot d'étranglement, contrairement à l'étape de décodage.
JPEG 2000 est le format de compression le plus largement utilisé pour les workflows d'observation de la Terre. Il est exploité par Sentinel-2, l'USGS, Maxar et la quasi-totalité des principales sources de données satellitaires. Les scènes uniques dépassent généralement les 10 Go non compressées. Sur un pipeline CPU standard, le décodage d'une scène satellite de 26 Go prend plus de cinq minutes. C'est un important désagrément. Cela constitue un point de blocage du pipeline qui interrompt les workflows d'analyse itérative et rend l'exploration interactive de scènes de grande taille pratiquement impossible.
Le même goulot d'étranglement est observé en matière de pathologie numérique et de cinéma numérique, c'est-à-dire dans tout domaine où le JPEG 2000 constitue la norme et où les volumes de données augmentent plus rapidement que les outils conçus pour les soutenir. Pour les clients de CYRAN dans les secteurs de l'industrie 4.0, de la défense et du renseignement souverain, pour lesquels les allers-retours vers le Cloud ne sont pas une option, la seule voie possible était une solution matérielle locale capable de décoder l'imagerie à gigapixels à des vitesses interactives. Ce qu'il fallait, c'était un matériel capable de suivre le rythme des capteurs.
Cyran AI Solutions
Inférence IA à l'Edge avec des images satellites utilisant Cyran SpatialFuse sur NVIDIA DGX Spark.
Élimination des goulots d'étranglement cachés grâce à PixelFlux
Les problèmes de goulot d'étranglement ont été résolus grâce à l'architecture de NVIDIA DGX Spark. Basé sur la plateforme GB10, doté d'un GPU NVIDIA Blackwell et d'un CPU NVIDIA Grace™ se partageant un pool de mémoire LPDDR5X unifié, DGX Spark a offert au client deux propriétés-clés qu'aucune station de travail à GPU intégré ne pouvait égaler pour traiter la même charge de travail.
La première propriété est le décodage JPEG 2000 accéléré par GPU. NVIDIA nvJPEG2000 transfère du CPU au GPU les étapes du décodage d'images les plus exigeantes en termes de calcul, permettant un débit que les pipelines basés sur CPU ne peuvent tout simplement pas égaler à l'échelle des données d'observation de la Terre.
La seconde propriété est la mémoire unifiée. Sur une configuration à GPU intégré — et même avec un NVIDIA RTX™ A6000 Ada haut de gamme — les tampons d'image décodés doivent être copiés dans la mémoire hôte via PCIe après le traitement par le GPU. Avec NVIDIA DGX Spark, le GPU et le CPU partagent le même pool de mémoire, ce qui permet d'obtenir un accès immédiat aux données d'images décodées - sans requérir la moindre étape de transfert de données. Cette élimination de la surcharge devient d'autant plus précieuse que la taille des images augmente, ce qui est précisément une caractéristique cruciale pour les charges de travail géospatiales de l'ordre du gigapixel.
CYRAN a rendu opérationnelle cette pile de capacités avec PixelFlux, une bibliothèque de décodage JPEG2000 accélérée par GPU basée sur NVIDIA nvJPEG2000. PixelFlux remplace entièrement le chemin de décodage basé sur le CPU, c'est pourquoi les données d'image décodées sont prêtes pour une utilisation immédiate, sans aucune surcharge de transfert sur DGX Spark.
Pour les pipelines d'entraînement d'apprentissage automatique, PixelFlux s'intègre à NVIDIA DALI pour maintenir le GPU continuellement alimenté depuis le stockage local, sans que le prétraitement du CPU ne devienne le goulot d'étranglement. L'ensemble de la solution s'exécute ainsi sur du matériel et des logiciels NVIDIA standard, sans recourir à aucune infrastructure tierce.
Désencombrer le pipeline pour profiter d'une analyse interactive
Les résultats sont sans équivoque. Une scène satellite de 26 Go qui nécessitait auparavant plus de cinq minutes de temps de décodage via le traitement CPU peut désormais s'achever en un peu plus de deux minutes seulement sur NVIDIA DGX Spark, un système suffisamment compact pour être déployé dans un centre d'opérations avancé ou dans un environnement air gap sécurisé.
Résultats de benchmark (uint16 RGB 3 bandes, moyenne ± écart-type, N=10 exécutions)
"L'architecture de mémoire unifiée de NVIDIA DGX Spark constitue une avancée révolutionnaire car elle élimine un goulot d'étranglement fondamental en matière de calcul informatique au niveau matériel pour les pipelines de traitement géospatial. Le regroupement de la plateforme SpatialFuse indigénisée de CYRAN avec Spark permet de libérer de nouvelles solutions Full-Stack optimisées pour un traitement de l'IA géospatiale de bout en bout, de l'orbite jusqu'aux stations au sol."
— Dr. Vivek Parmar, Directeur de la technologie, CYRAN AI Solutions
| Image (HxW) | Compressed | Uncompressed | CPU | A6000 Ada | DGX Spark | vs CPU | vs A6000 Ada |
|---|---|---|---|---|---|---|---|
| 2,654 x 6,152 | 38 MB | 93 MB | 1.39s | 0.53s | 0.56s | 2.42x | 1.15x |
| 2,654 x 34,816 | 179 MB | 528 MB | 4.86s | 2.74s | 1.57s | 3.12x | 1.92x |
| 34,816 x 34,816 | 2,862 MB | 6,936 MB | 65.67s | 35.44s | 16.32s | 2.41x | 2.02x |
| 117,504 x 39,168 | 1,333 MB | 26,335 MB | 298.56s | 210.77s | 115.11s | 2.33x | 1.59x |
Délais exprimés en secondes. DGX Spark enregistre les meilleurs résultats à toutes les échelles.
L'écart de performance se creuse avec la taille de l'image, et c'est là tout l'intérêt. Par rapport au GPU NVIDIA RTX A6000 Ada, le système NVIDIA DGX Spark présente des performances 1,15 fois plus élevées sur la plus petite scène de test. À partir d'un demi-gigaoctet, l'écart de performance passe à plus de deux fois, et il continue de croître de manière exponentielle. Plus l'image est grande, plus une station de travail classique passe de temps à traiter les opérations de transfert de données, une étape que l'architecture de mémoire unifiée de DGX Spark élimine entièrement.
L'impact commercial va bien au-delà du débit brut. Les cycles de développement et de débogage qui nécessitaient auparavant une infrastructure Cloud ou des serveurs multi-GPU s'exécutent désormais sur un simple système de bureau. Les analystes et les ingénieurs en apprentissage automatique de CYRAN peuvent effectuer pour la première fois des analyses véritablement interactives de scènes à grande échelle sur du matériel local. Pour les clients des secteurs de l'industrie 4.0, de la défense et du renseignement souverain pour lesquels l'infrastructure Cloud n'est pas une option, cette capacité n'est pas une commodité : c'est une exigence. Les résultats obtenus ont permis de mettre en œuvre un projet de grande ampleur.
De l'Edge jusqu'à orbite
CYRAN fait désormais appel aux capacités de PixelFlux. La bibliothèque nvJPEG2000 est entièrement portable pour les déploiements de Cloud et de Data Centers basés sur NVIDIA Blackwell, ce qui signifie que les pipelines développés et validés localement sur NVIDIA DGX Spark s'adaptent aux environnements de Cloud et de Data Centers sans retouche, grâce à un chemin direct allant du prototype à l'Edge jusqu'à la phase de production.
Au-delà de l'intelligence terrestre, CYRAN étudie aujourd'hui le portage des capacités d'IA à l'Edge vers les satellites et les charges utiles spatiales avancées pour l'inférence en orbite, selon le fondateur de la société, le professeur Manan Suri. À mesure que le nombre de capteurs spatiaux augmente rapidement, les contraintes de calcul en orbite sont encore plus importantes qu'à l'Edge, et les mêmes principes architecturaux qui rendent NVIDIA DGX Spark efficace en périphérie des réseaux s'appliquent pour l'IA en orbite, à savoir un traitement local rapide, une utilisation efficace de la mémoire et un matériel conçu pour les environnements à contraintes d'espace.
En tant que membre continu du programme NVIDIA Inception, CYRAN opère à la frontière de l'IA géospatiale, de l'Edge Computing et de l'intelligence spatiale, et l'architecture de PixelFlux est la fondation de ce projet. Le traitement d'un problème de décodage de cinq minutes s'est transformé en initiative qui a permis de prouver que la pile complète de l'intelligence géospatiale - de la gestion des capteurs jusqu'à l'obtention des données - peut s'exécuter n'importe où.
CYRAN AI Solutions est une société membre du programme NVIDIA Inception et une spin-out de l'IIT Delhi. En savoir plus : cyran.in.
Découvrez comment NVIDIA DGX Spark transforme les workflows géospatiaux.