Sony Pictures Animation

Uniendo Mundos 2D y 3D con NVIDIA Omniverse Enterprise

Objectivo

Sony Pictures Animation ha logrado grandes avances en la mejora de su workflow de preproducción, permitiendo a sus artistas tener mayor control y creatividad al realizar la transición de sus guiones gráficos 2D a un espacio 3D. Desarrollaron una aplicación llamada FlixiVerse en NVIDIA Omniverse™ y aprovecharon las funciones existentes de la plataforma, como OpenUSD y las capacidades de actualización automática de Nucleus. Esto ha permitido a los artistas mover fácilmente sus modelos 3D a Nucleus en minutos y pueden navegar a través de escenas 3D usando un controlador de juego para manipular la cámara.

Cliente

Sony Pictures Animation

Caso de Uso

Medios y Entretenimiento

Tecnología

NVIDIA Omniverse Enterprise
NVIDIA RTX™
FlixiVerse

Sony Pictures Animation aprovechó NVIDIA Omniverse para desarrollar una aplicación interna llamada FlixiVerse, que permite a los artistas y directores que no dominan el 3D navegar fácilmente en un entorno 3D, tomar decisiones creativas mejor informadas y acelerar el workflow de preproducción.

 
  • Optimización significativa del workflow de preproducción.
  • Es hora de realizar 4 veces más iteraciones de tomas en comparación con películas anteriores.
 
  • FlixiVerse sincroniza archivos automáticamente en minutos en lugar de días en comparación con el workflow anterior.
  • El uso de la biblioteca de extensiones Omniverse ahorró semanas en tiempo de desarrollo.

Crédito de la Imagen: Cortesía de Sony Pictures Animation.

El estudio desarrolló FlixiVerse, una aplicación basada en Omniverse Enterprise y con tecnología NVIDIA RTX, que permite a los artistas 2D acelerar los workflows creativos con más iteraciones y transiciones más sencillas a entornos 3D.

El estudio se centra en la fase inicial de la preproducción de animación, asociándose con el estudio hermano Sony Pictures Imageworks para la producción de largometrajes. Esto permite a su equipo centrarse en el estilo y la innovación en los guiones gráficos, el desarrollo visual y la edición, mientras colaboran estrechamente en la producción final. En promedio, una película de 90 minutos tendrá alrededor de 120.000 guiones gráficos, con más de 2.000 actualizaciones del guión y 25.000 diseños únicos.

Para brindarles a los artistas la mayor libertad creativa posible, Sony Pictures Animation comenzó a explorar nuevas formas de optimizar su workflow de preproducción.

“Cuando los artistas trabajan en paneles de guiones gráficos, principalmente trabajan en dibujos en 2D. Se ve hermoso y funciona muy bien como guión gráfico, pero la transición de estos tableros 2D a un espacio 3D puede ser un desafío. A menudo, una toma no funciona en 3D o no se puede lograr un ángulo de cámara. Además, los paneles 2D pueden limitar la expresión creativa en escenas como las de acción”, dijo Yiotis Katsambas, director ejecutivo de tecnología de Sony Pictures Animation.

"Sentí que necesitábamos darles a los artistas más control para moverse al entorno 3D. No queríamos limitar a los artistas; queríamos implementar tecnología que les permitiera usar las herramientas y aplicaciones que tuvieran sentido para ellos. y al mismo tiempo darles la mayor flexibilidad posible".

Crédito de la Imagen: Cortesía de Sony Pictures Animation.

Crédito de la Imagen: Cortesía de Sony Pictures Animation.

Un Portal a la Tercera Dimensión

El objetivo era sumergir a los artistas y directores que no dominan el 3D en una vista 3D simplificada para que puedan tomar decisiones creativas mejor informadas e iterar sobre el diseño en un espacio 3D. Lograr este puente también permitiría a los equipos de producción capturar datos de la preproducción 3D, como lentes e información de la cámara, para ayudar en la transición a la producción.

El equipo intentó varias formas de solucionar este problema, incluida la creación de una aplicación de escritorio. Incluso entonces, enfrentaron desafíos como que los modelos tardaban días en actualizarse, los artistas no estaban familiarizados con las herramientas 3D o no tenían máquinas lo suficientemente potentes para ejecutar las aplicaciones de escritorio.

Luego centraron su atención en desarrollar Omniverse después de ver una demostración en NVIDIA GTC. Un pequeño equipo dirigido por el ingeniero Nikolas Ladas comenzó a desarrollar una aplicación interna llamada FlixiVerse; esta aplicación sería su "portal a la tercera dimensión".

FlixiVerse permite al equipo de guiones gráficos navegar fácilmente en un entorno 3D utilizando un visor simple, para que cualquiera pueda ingresar a una escena e iterar en 3D. FlixiVerse sincroniza archivos automáticamente en minutos en lugar de días en comparación con el workflow anterior. También está basado en la web y aprovecha un conjunto de PC en el estudio, junto con un servidor con tecnología de GPU NVIDIA RTX 6000. Esto facilita que los artistas trabajen y revisen en un navegador sin necesidad de máquinas potentes.

Acelerar el Desarrollo de Aplicaciones con Componentes y Extensiones Existentes

Al comenzar a crear una aplicación basada en un kit con Omniverse, el equipo rápidamente se dio cuenta de algunas ventajas, principalmente a través de la extensibilidad modular de Omniverse y el uso de componentes existentes disponibles como bases.

“Construir Flixiverse usando Omniverse Kit fue una maravilla. Le brinda un renderizador 3D en tiempo real listo para usar que puede ray tracing, por lo que mucho de lo que tuvimos que implementar estuvo ahí desde el principio. Ampliar el proyecto base fue fácil ya que todo el desarrollo se realiza en Python”. dijo Nikolas Ladas, ingeniero de software de Sony Pictures Animation.

Gran parte de lo que hace FlixiVerse proviene de complementos del kit. Esto incluye la interfaz de usuario, trabajar con datos USD, comunicarse con Nucleus para almacenamiento y transmitir la aplicación a través de la red mediante webRTC. Agregar un complemento a Flixiverse fue tan simple como agregar una línea al archivo de configuración del proyecto. Para el código que SPA tuvo que escribir ellos mismos, buscaron la documentación y los diversos proyectos de ejemplo.

La arquitectura OpenUSD (Universal Scene Description) de Omniverse inició el desarrollo y la interoperabilidad con el pipeline existente de Sony. El equipo utilizó extensiones de la biblioteca de extensiones Omniverse, como Scene Optimizer, que les permitió agregar fácilmente funciones para convertir escenas 3D complejas en representaciones livianas, lo que ahorró semanas en tiempo de desarrollo. Nucleus agrega funcionalidad de transferencia de archivos y actualizaciones automáticas, extrayendo modelos de Autodesk Maya.

"Creamos un script que usaría comandos de Omniverse para tomar lo que está activo en Maya y exportarlo a Omniverse Nucleus", dijo Katsambas. "Antes, preparar y exportar archivos llevaba días. Ahora sólo lleva unos minutos".

Para simplificar el control de la cámara, el equipo integró un controlador de PlayStation para poder mover fácilmente la cámara por la escena. También hay una interfaz personalizada que permite a sus artistas modificar las luces, las sombras, los ángulos de la cámara y más. Ahora pueden incorporar esta información a producción y ayudar a acelerar y optimizar la creación de tomas.

El director Joaquim Dos Santos es un cineasta con experiencia en guiones gráficos que utilizó FlixiVerse durante la preproducción de la última película del estudio, Spider-Man: Across the Spider-Verse. “FlixiVerse fue invaluable para el proceso de Joaquim; ahora puede moverse en 3D usando un controlador de game, tomar instantáneas, mover modelos y acelerar su workflow. Además, los diseñadores de producción pueden ver el diseño de preproducción en un mundo 3D para inspirarse e ideas de diseño”, continuó Katsambas.

El equipo utilizó una combinación de una herramienta interna llamada Flixi y su aplicación Omniverse FlixiVerse en la preproducción de Spider-Man: Across the Spider-Verse. Al final de la preproducción, el recuento final de paneles del guión gráfico de la película superó los 450.000, lo que demuestra casi cuatro veces más iteraciones que el recuento promedio de películas anteriores.

Para los próximos pasos, Katsambas explica que planean continuar desarrollando FlixiVerse y que esto es solo el comienzo. "Sólo estamos arañando la superficie", afirmó. "Nos gusta la idea de Omniverse Nucleus y hay muchas oportunidades para explorar cómo podemos usarlo creativamente, como conectar nuevas aplicaciones de mo-cap para acelerar la puesta en escena de los personajes y herramientas de desarrollo de apariencia".