L'Université de Pennsylvanie accélère la recherche dans toutes les disciplines grâce à NVIDIA DGX SuperPOD

L'essor de l'IA à grande échelle a fondamentalement transformé la pratique des sciences computationnelles. Des domaines tels que les sciences biomédicales, la robotique, la linguistique et la science des matériaux, qui nécessitent des ressources de calcul spécialisées, génèrent désormais des charges de travail d'entraînement qui repoussent les limites de ce qu'un seul laboratoire peut pratiquement supporter. Pour l'université de Pennsylvanie, qui compte douze facultés menant simultanément des recherches financées par le gouvernement fédéral, la question n'était pas de savoir s'il fallait investir dans des infrastructures d'IA, mais comment mettre en place un système partagé, accessible et suffisamment performant pour répondre aux besoins de tous les chercheurs du campus.

Le cloud public peut combler les pénuries de ressources de calcul à court terme, mais son modèle économique s'avère difficile à mettre en œuvre à l'échelle universitaire. La réalisation d'expériences répétées portant sur des dizaines de variantes de modèles, de graines aléatoires et de grands ensembles de données constitue le type de travail rigoureux qui favorise l'innovation et le partage des résultats publiés, ainsi que l'obtention de subventions pour poursuivre les recherches. Cependant, cela nécessitait une puissance de calcul qui n'était soit pas disponible localement, soit trop coûteuse à mettre en œuvre, ce qui rendait toute itération irréalisable. Les expériences les plus ambitieuses étaient les plus difficiles à mener précisément au moment où elles revêtaient le plus d'importance, c'est-à-dire avant que des résultats ne viennent justifier un soutien financier supplémentaire pour leur poursuite.

Ce dont Penn avait besoin, c'était d'une plateforme capable de s'adapter aux besoins de chaque chercheur, suffisamment évolutive pour permettre l'entraînement de modèles de pointe, suffisamment abordable pour garantir un large accès, et suffisamment intégrée pour que la mise en route ne prenne que quelques heures, et non plusieurs mois.

L'impact sur la portée et la vitesse de la recherche a été immédiat. Dans le cadre du programme de robotique de l'université de Pennsylvanie, les chercheurs qui mènent des expériences d'apprentissage par renforcement visant à naviguer dans des environnements inconnus peuvent désormais paralléliser entièrement les essais d'entraînement sur Betty. La même équipe a entraîné des modèles de vision-langage-action (VLA) informés sur les prédicats à plus de 3 milliards de paramètres auparavant hors de portée en raison des exigences en matière de calcul. Ces résultats ont permis d'accélérer de 12 fois l'entraînement du modèle par rapport à leur configuration précédente, les premiers résultats obtenus avec le VLA surpassant les performances de référence. « Sur un GPU de PC, chaque cycle d'entraînement par apprentissage par renforcement dure entre trois et quatre heures, ce qui nous limite à six ou sept cycles par jour. Avec seulement huit GPU sur notre DGX SuperPOD, nous pouvons effectuer 100 exécutions avec différentes configurations par jour, ce qui représente une multiplication par plus de 14 du débit expérimental quotidien », indique Vijay Kumar, professeur et doyen de la faculté d’ingénierie de l’Université de Pennsylvanie (Penn Engineering), titulaire de la chaire Nemirovsky.

L'impact de Betty va bien au-delà de celui d'un seul laboratoire. Dans le cadre d'une collaboration entre le Mack Institute et le Penn Center for Innovation, Betty a été utilisée pour analyser les corrélations sémantiques dans plus de 40 000 documents, ce qui a permis de réduire un temps de calcul estimé à 1 an et demi à seulement trois jours. CAMEL-ECG, un modèle conçu pour réduire la fatigue liée aux alarmes dans le diagnostic clinique par électrocardiogramme, a été entraîné sur Betty par une équipe réunissant des chercheurs de Penn Engineering et de la Perelman School of Medicine. Cette collaboration a été rendue possible grâce à l'accès partagé à la plateforme.

Les sciences biomédicales constituent depuis longtemps l'un des points forts de l'université de Pennsylvanie, dont les chercheurs ont été à l'origine de la technologie des vaccins à ARNm, récompensée par un prix Nobel. Betty prend désormais en charge un modèle génératif pour les constructions d'ARNm et de protéines qui a permis d'obtenir une expression plus de 400 fois supérieure. Les enseignants-chercheurs de l'université de Penn ont également exploré l'intégralité du référentiel PubMed et extrait un graphe de connaissances destiné à l'entraînement de modèles prédictifs couvrant différents types de biomolécules, avec un système de « co-chercheurs » autonomes développé à partir de ces données afin de soutenir le développement de traitements à base d'ARN et de nanoparticules lipidiques.

Aujourd'hui, Betty répond aux besoins d'environ 950 chercheurs inscrits répartis dans 200 groupes de recherche, en fournissant 120 000 heures de GPU et 30 000 tâches par mois, à un coût subventionné d'environ 1 dollar par heure de GPU. Tout chercheur de l'université de Pennsylvanie peut demander un accès, et les nouveaux utilisateurs peuvent passer de l'inscription à une utilisation productive de Betty en quelques heures seulement au lieu de plusieurs semaines. « Betty offre aux chercheurs l'université de Pennsylvanie une capacité d'IA intégrée auparavant indisponible sur le campus. Avec un coût plus de 10 fois inférieur à celui des solutions cloud commerciales, le DGX SuperPOD permet aux projets d'entraînement de modèles à grande échelle et d'IA au service de la science, qui étaient auparavant voués à l'échec, de devenir des équipes de recherche capables de créer, de tester et d'affiner leurs travaux », ajoute Dr Kumar.

L'université de Pennsylvanie travaille déjà à étoffer le portefeuille de modèles de Betty. La plateforme propose désormais des modèles ouverts de pointe, notamment le GLM-5.2-NVFP4, un déploiement optimisé par NVIDIA pour les GPU NVIDIA Blackwell prenant en charge des longueurs de contexte allant jusqu’à 500 000 jetons, avec des déploiements Kimi K3 multi-nœuds en cours. Les compétences de Betty lui permettent de contribuer aussi bien à la recherche qu’à l’enseignement. Le nouveau cours de l'université de Pennsylvanie intitulé « Développement logiciel avec des agents d'IA de codage » démarre cet automne avec 75 étudiants. Ceux-ci utiliseront un point de terminaison hébergé par Betty pour leurs travaux de codage et leur notation, dans le respect des règles de gouvernance des données de l'université. Le nombre d'inscrits devrait atteindre 250 étudiants au printemps.

Dans le domaine de l'imagerie biomédicale, les chercheurs de l'université de Pennsylvanie créent des jeux de données multimodales allant de l'échelle de l'organe à la résolution d'une seule cellule, créant ainsi la base de modèles qui pourraient à terme prédire le fonctionnement des organes ou soutenir la médecine régénérative. L'impact clinique des travaux de Betty continue de se faire sentir, mais la plateforme gère d'ores et déjà les charges de travail informatiques qui permettent de sélectionner des peptides, des protéines et des ARNm candidats en vue d'essais expérimentaux et d'une éventuelle application thérapeutique.

L'investissement de l'université de Penn dans Betty illustre ce qu'il est possible de réaliser lorsqu'une université de recherche considère la puissance de calcul non pas comme une ressource propre à un département, mais comme un socle commun au service de l'innovation, accessible à tous les chercheurs, abordable à l'échelle universitaire et suffisamment puissant pour que ce soit la science, et non le matériel, qui fixe les limites.