Educación superior / Investigación
CYRAN AI descodifica imágenes satelitales de gigapíxeles en el perímetro con NVIDIA DGX Spark
Objetivo
CYRAN AI Solutions, una empresa emergente de deep tech nativa de IA derivada del NVM y del Neuromorphic Hardware Research Group de IIT Delhi, crea plataformas de fusión de sensores para la inteligencia geoespacial, la seguridad y las aplicaciones de la Industria 4.0. Su plataforma SpatialFuse fusiona datos de la órbita, el aire y el suelo para generar inteligencia geoespacial en tiempo real; pero para los analistas e ingenieros que dependen de ella en el perímetro, en órbita y en entornos aislados, la velocidad de la canalización está condicionada por su etapa más lenta. Esa etapa se ha descodificado.
Al combinar la arquitectura de memoria unificada de NVIDIA DGX Spark™ con el procesamiento JPEG 2000 acelerado por GPU a través de su nueva biblioteca PixelFlux, CYRAN redujo el tiempo de descodificación en una escena satelital de 26 GB de más de cinco minutos a poco más de dos, proporcionando un análisis geoespacial verdaderamente interactivo en hardware local, sin una nube a la vista.
Cliente
CYRAN AI Solutions
Partner
Indian Institute Of Technology Delhi (IIT Delhi)
Tema
Computación perimetral
IA geoespacial/inferencia perimetral
Productos
Principales conclusiones
3 veces más rápido
- Descodificación de JPEG 2000 vs. línea de base de la CPU: una escena satelital de 26 GB se reduce de más de 5 minutos a poco más de 2 minutos.
2 veces más rápido
- Que una estación de trabajo de GPU independiente en imágenes de gran tamaño, al eliminar un cuello de botella de memoria en el nivel de hardware que la arquitectura de DGX Spark elimina por completo.
Sin nube
- El análisis interactivo de escenas grandes se ejecuta en su totalidad en hardware local, lo que permite implementaciones de inteligencia soberana y en entornos aislados.
Descodificación del valor de los datos de un planeta
Los satélites, los drones y los sensores terrestres están generando datos geoespaciales a un ritmo que ha superado a las herramientas diseñadas para gestionarlos. La plataforma SpatialFuse de CYRAN está diseñada para proporcionar inteligencia en el perímetro (en centros de operaciones avanzadas, entornos seguros aislados y, en última instancia, a bordo de las plataformas espaciales) y todas las etapas de la canalización deben funcionar correctamente. El modelo de IA no es el cuello de botella. Lo es el paso de descodificación.
JPEG 2000 es el formato de compresión dominante en toda la observación de la Tierra, utilizado por Sentinel-2, USGS, Maxar y prácticamente todas las principales fuentes de datos satelitales. Las escenas individuales suelen superar los 10 GB sin comprimir. En una canalización de CPU estándar, la descodificación de una escena satelital de 26 GB tardaba más de cinco minutos. Eso no es un problema menor. Es un obstáculo de la canalización que interrumpe los flujos de trabajo de análisis iterativo y hace que la exploración interactiva de grandes escenas sea prácticamente imposible.
El mismo cuello de botella afecta a la patología digital y el cine digital: cualquier ámbito en el que JPEG 2000 sea estándar y los volúmenes de datos hayan crecido más rápido que las herramientas creadas en torno a ellos. Para los clientes de CYRAN en los sectores de Industria 4,0, defensa e inteligencia soberana, donde los viajes de ida y vuelta a la nube no son una opción, la única forma de avanzar era una solución de hardware local capaz de descodificar imágenes de gigapíxeles a velocidades interactivas. Se necesitaba hardware que pudiera mantener el ritmo de los sensores.
Cyran AI Solutions
Inferencia de IA perimetral en imágenes satelitales utilizando Cyran SpatialFuse en NVIDIA DGX Spark.
Eliminación del cuello de botella oculto con PixelFlux
La respuesta llegó con la arquitectura de NVIDIA DGX Spark. DGX Spark, basado en la plataforma GB10 con una GPU NVIDIA Blackwell y una CPU NVIDIA Grace™ que comparten un grupo de memoria LPDDR5X unificado, ofrecía dos propiedades que ninguna estación de trabajo de GPU independiente podía igualar para esta carga de trabajo.
La primera fue la descodificación JPEG 2000 acelerada por GPU. NVIDIA nvJPEG2000 traslada las etapas más exigentes desde el punto de vista computacional de la descodificación de imágenes de la CPU a la GPU, lo que permite un rendimiento que las canalizaciones basadas en la CPU simplemente no pueden igualar a la escala de los datos de observación de la Tierra.
La segunda fue la memoria unificada. En una configuración de GPU independiente, incluso una NVIDIA RTX™ A6000 Ada de gama alta, los búferes de imágenes descodificadas deben copiarse de nuevo a la memoria del host a través de PCIe después del procesamiento de la GPU. En NVIDIA DGX Spark, la GPU y la CPU comparten el mismo grupo de memoria, por lo que los datos de imágenes descodificadas están disponibles de inmediato sin ninguna etapa de transferencia. Esa eliminación de la sobrecarga se vuelve más valiosa a medida que aumentan los tamaños de las imágenes, que es precisamente el régimen que importa para las cargas de trabajo geoespaciales de gigapíxeles.
CYRAN puso en práctica esta pila de capacidades en PixelFlux, una biblioteca de descodificación JPEG 2000 acelerada por GPU y basada en NVIDIA nvJPEG2000. PixelFlux sustituyea por completo la ruta de descodificación basada en la CPU y devuelve los datos de imágenes descodificadas listos para su uso inmediato, sin sobrecarga de transferencia en DGX Spark.
Para las canalizaciones de entrenamiento de aprendizaje automático, PixelFlux se integra con NVIDIA DALI para mantener la GPU alimentada de forma continua a partir del almacenamiento local, sin que el preprocesamiento de la CPU se convierta en el cuello de botella. Toda la solución se ejecuta en hardware y software estándar de NVIDIA, sin necesidad de infraestructura de terceros.
De los cuellos de botella en la canalización al análisis interactivo
Los resultados son inequívocos. Una escena satelital de 26 GB que antes requería más de cinco minutos de tiempo de descodificación de la CPU ahora se completa en poco más de dos minutos en NVIDIA DGX Spark, en un sistema lo suficientemente compacto como para implementar en un centro de operaciones avanzadas o en un entorno seguro y aislado.
Resultados de las pruebas de referencia (uint16 RGB de 3 bandas, media ± desv. estándar, N=10 ejecuciones)
«La arquitectura de memoria unificada de NVIDIA DGX Spark es una mejora revolucionaria: elimina un cuello de botella de computación fundamental en la capa de hardware de las canalizaciones de procesamiento geoespacial. La integración adicional de la plataforma SpatialFuse, desarrollada localmente por CYRAN, con Spark libera nuevas soluciones de pila completa optimizadas para el procesamiento de GeoAI de extremo a extremo, desde la órbita hasta las estaciones terrestres».
— Dr. Vivek Parmar, CTO, CYRAN AI Solutions
| Image (HxW) | Compressed | Uncompressed | CPU | A6000 Ada | DGX Spark | vs CPU | vs A6000 Ada |
|---|---|---|---|---|---|---|---|
| 2,654 x 6,152 | 38 MB | 93 MB | 1.39s | 0.53s | 0.56s | 2.42x | 1.15x |
| 2,654 x 34,816 | 179 MB | 528 MB | 4.86s | 2.74s | 1.57s | 3.12x | 1.92x |
| 34,816 x 34,816 | 2,862 MB | 6,936 MB | 65.67s | 35.44s | 16.32s | 2.41x | 2.02x |
| 117,504 x 39,168 | 1,333 MB | 26,335 MB | 298.56s | 210.77s | 115.11s | 2.33x | 1.59x |
Todos los tiempos en segundos. DGX Spark lidera en cualquier escenario.
La brecha de rendimiento se amplía con el tamaño de la imagen, y ahí está la clave. En comparación con NVIDIA RTX A6000 Ada, NVIDIA DGX Spark gana por 1,15x en el escenario de pruebas más pequeño. De medio gigabyte hacia arriba, la ventaja aumenta a más de 2x, y sigue aumentando. Cuanto más grande es la imagen, más tiempo dedica una estación de trabajo convencional a la transferencia de datos, una tarea que la arquitectura de memoria unificada de DGX Spark elimina por completo.
El impacto empresarial va más allá del rendimiento bruto. Los ciclos de desarrollo y depuración que antes requerían infraestructura en la nube o servidores multi-GPU ahora se ejecutan en un escritorio. Por primera vez, los analistas e ingenieros de aprendizaje automático de CYRAN pueden realizar análisis verdaderamente interactivos de escenas grandes en hardware local. Para los clientes de los sectores de Industria 4.0, defensa e inteligencia soberana para los que la infraestructura en la nube no es una opción, esa capacidad no es una comodidad, es un requisito. Los resultados dejaron claro que se podía ir más allá.
El perímetro se extiende a la órbita
Ahora, CYRAN se basa en lo que PixelFlux demostró. La biblioteca nvJPEG2000 es portátil en todas las implementaciones de nube y centros de datos basadas en NVIDIA Blackwell, lo que significa que las canalizaciones desarrolladas y validadas localmente en NVIDIA DGX Spark escalan a los entornos de nube y centros de datos sin necesidad de modificaciones, una ruta directa desde el prototipo en el perímtero hasta la producción.
Más allá de la inteligencia terrestre, CYRAN está explorando la posibilidad de trasladar las capacidades de IA en el perímetro a cargas útiles satelitales y espaciales avanzadas para la inferencia en órbita, según el fundador, el profesor Manan Suri. A medida que aumenta rápidamente el número de sensores basados en el espacio, las restricciones de computación en órbita son aún más severas que en el perímetro. Además, se aplican directamente los mismos principios arquitectónicos que hacen que NVIDIA DGX Spark sea eficaz en esos entornos: procesamiento local rápido, uso eficiente de la memoria y hardware diseñado para entornos con restricciones.
Como miembro continuo del programa NVIDIA Inception, CYRAN opera en la frontera de la IA geoespacial, la computación perimetral y la inteligencia basada en el espacio, mientras que la arquitectura detrás de PixelFlux es la base sobre la que se construye. Lo que comenzó como un problema de descodificación de cinco minutos se ha convertido en la prueba de que la pila completa de inteligencia geoespacial (desde los sensores hasta la información) se puede ejecutar en cualquier lugar.
CYRAN AI Solutions es miembro del programa NVIDIA Inception y una empresa derivada de IIT Delhi. Más información en cyran.in.
Explore cómo NVIDIA DGX Spark transforma los flujos de trabajo geoespaciales.