NVIDIA Omniverse Audio2Face

Omniverse Audio2Face

Omniverse Audio2Face est une application qui tire profit de la puissance incomparable de l’IA pour générer des animations faciales hautement expressives à partir d’une simple source audio.

Animations faciales optimisées par l’IA

Audio2Face simplifie l’animation des personnages 3D et s’adapte à tous les types de pistes vocales dans des champs d’application comme la création de jeux vidéo, la production cinématographique, les assistants numériques en temps réel et bien d’autres domaines du divertissement. Vous pouvez utiliser l’application pour des applications interactives en temps réel ou en tant qu’outil traditionnel pour l’animation faciale. Vous pouvez générer les résultats immédiatement sur un modèle brut ou les appliquer librement à vos propres créations.

Fonctionnement d’Audio2Face

L’application Omniverse Audio2Face est basée sur un concept original du programme NVIDIA Research. Audio2Face est préchargée avec "Digital Mark", un modèle de personnage 3D que vous pouvez animer avec votre propre piste audio, c’est pourquoi sa mise en œuvre est très simple. Sélectionnez simplement votre piste audio puis chargez-la dans l’application.  La technologie diffuse la piste d’entrée au sein d’un réseau de neurones profonds pré-entraîné, puis les données de sortie du réseau contribuent à générer l’animation faciale de votre personnage en temps réel.  Vous pouvez éditer divers paramètres de post-traitement afin d’influer sur les performances de votre personnage. Les données de sortie du réseau sont ensuite appliquées à votre modèle de personnage pour créer son animation faciale. Les résultats que vous voyez sur cette page correspondent aux résultats bruts d’Audio2Face, sans aucun (sinon très peu de) paramètres de post-traitement.

(Remarque : la prise en charge directe des Blend Shapes sera communiquée à une date ultérieure.)

Omniverse Audio2Face App
 
Audio2Face génère des animations faciales via une entrée audio.

ENTRÉE AUDIO

Utilisez un enregistrement ou animez vos modèles en temps réel

Enregistrez simplement une piste vocale, exportez-la dans l’application puis regardez le visage de votre personnage prendre vie sous vos yeux en 3D. Vous pouvez même générer des animations faciales via un micro.

Audio2Face est en mesure de traiter facilement une grande variété de langues. De nouvelles langues sont régulièrement ajoutées. Nous vous invitons à découvrir les résultats de nos tests en anglais, en français, en italien ou en russe.

TRANSFERT DE PERSONNAGES

Donnez vie à n’importe quel visage

Audio2Face vous permet de recalibrer des visages 3D humains ou d’apparence humaine, qu’ils soient réalistes ou stylisés. Regardez ce test de recalibrage entre deux modèles (de Digital Mark à Rain).

 
Omniverse View inclut un moteur de rendu RTX Image Right
 
Utilisez des instances multiples afin de générer des animations faciales pour plusieurs personnages. Image Right

INSTANCES MULTIPLES

En solo ou en groupe

Vous pouvez exécuter très facilement plusieurs instances d’Audio2Face en intégrant au sein d’une même scène autant de personnages que vous le souhaitez, animés à partir de pistes audio analogues ou différentes. Intégrez de la vie et du son à un dialogue entre deux personnages, à une conversation entre trois protagonistes, à une formation de quatre musiciens... et bien plus encore.

CONTRÔLE DES ÉMOTIONS

Jouez la carte de l’émotion

Audio2Face vous permet de choisir et d’animer librement les émotions de votre personnage, étant donné que le réseau intégré à l’application peut manipuler automatiquement le visage, les yeux, la bouche, la langue et les mouvements de la tête en conséquence.

Fonctionnalité prochainement disponible.

Insufflez des émotions à votre animation.

Découvrez Audio2Face en action

Créatures et extraterrestres

Profitez d’une fonctionnalité avancée vous permettant de gérer les animations faciales relatives à des créatures fantastiques et à des extraterrestres. Cette vidéo illustre la façon dont Digital Mark peut contribuer à générer les animations d’une entité extraterrestre.

Découvrez notre chatbot Misty

Présenté à la conférence GTC 2020 au printemps dernier, Misty est un chatbot météorologique à haut degré d’interactivité alimenté en temps réel par Audio2Face. Nous avons optimisé puis converti cet agent conversationnel intelligent pour faire passer son apparence d’un modèle humain réaliste à un modèle synthétique à l’animation de pointe.

Omniverse Machinima

Présentée à l’occasion du lancement des cartes graphiques GeForce RTX série 30 les capacités de l’application Audio2Face sont mises en exergue dans la vidéo de démonstration Omniverse Machinima. Les techniques d’animation faciale ont toujours été aussi complexes que coûteuses. Audio2Face automatise et modernise l’animation faciale de manière à démocratiser le processus de création de contenus 3D.

Commencez à utiliser Omniverse AUDIO2FACE

Omniverse Create fonctionne sur n’importe quel appareil équipé d’une carte graphique NVIDIA RTX, des PC portables jusqu’aux Data Centers. Téléchargez Omniverse pour commencer.

Download NVIDIA Omniverse

1

Téléchargez NVIDIA Omniverse et lancez l’installation.

Open the Omniverse Launcher

2

Une fois l’installation terminée, exécutez le lanceur d’Omniverse.

Find Audio2Face in the Apps section and click Install

3

Recherchez Audio2Face dans la section Applications puis cliquez successivement sur les options d’installation et de lancement.

Présentation approfondie d’Audio2Face

Consultez notre présentation technique réalisée à l’occasion de la GTC 2020.

Configuration requise
Élément Spécifications minimales
Systèmes d’exploitation compatibles Windows 10 64 bits (1909 et plus)
CPU Intel i7, AMD Ryzen
2,5 GHz ou plus
Cœurs CPU 4 ou plus
RAM 16 Go ou plus
Stockage 500 Go ou plus
GPU N’importe quel GPU RTX
VRAM 6 Go ou plus
Version minimale des pilotes d’affichage 455.28 (Linux), 456.71 (Windows)
Remarque : la plateforme Omniverse a été conçue pour fonctionner sur n’importe quelle machine équipée d’une carte graphique RTX. Pour des performances idéales, nous vous recommandons néanmoins d’utiliser une GeForce RTX 2080, une Quadro RTX 5000 ou un modèle ultérieur. Pour obtenir les derniers pilotes, cliquez ici.

Assistance

Enter the Omniverse

Deep dive into the platform through a series of GTC webinars hosted by Omniverse experts in various industries.

Autres applications Omniverse

Les applications Omniverse ont toutes été conçues pour enrichir des workflows spécifiques. Découvrez-les en action !

nvidia-omniverse-view-64

Visualisation

Accomplissez vos projets de conception de manière collaborative avec ce puissant outil de visualisation photoréaliste d'une grande précision physique.

nvidia-omniverse-create-64

Création

Accélérez vos procédures de conception et configurez, simulez et générez des scènes d’infographie en temps réel avec le plus haut degré d’interactivité dans Pixar USD.

nvidia-omniverse-kaolin-icon-64

Kaolin

Ce puissant outil de visualisation vous permet de simplifier et d’accélérer vos projets de recherche 3D basés sur le Deep Learning grâce à la bibliothèque logicielle Kaolin PyTorch de NVIDIA.

Machinima

Machinima

Remix, recreate, and redefine animated video game storytelling with an AI-powered toolkit for gamers.

Isaac Sim

Isaac Sim

Importez, configurez et testez des robots dans un environnement 3D physique photoréaliste à haute fidélité.

Drive Sim

DRIVE Sim

Profitez d’une expérience de simulation à hautes performances, virtuellement indissociable de la réalité, pour le développement de véhicules autonomes.