Istruzione superiore / Ricerca

L'Università della Pennsylvania accelera la ricerca in tutte le discipline con NVIDIA DGX SuperPOD

Obiettivo

L'Università della Pennsylvania (Penn) è una delle principali università di ricerca del paese, composta da dodici scuole attive nella ricerca finanziata a livello federale che copre scienza biomedica, robotica, ingegneria e arti e scienze. Mentre i metodi IA hanno iniziato a rimodellare quei campi di studio simultaneamente, Penn ha fatto un investimento decisivo nell'infrastruttura di calcolo IA condivisa con un NVIDIA DGX SuperPOD™. Il risultato è "Betty", una piattaforma di ricerca IA a livello universitario che mette il calcolo su scala di frontiera nelle mani di qualsiasi ricercatore della Penn a circa 1 dollaro all'ora di GPU, espandendo sia ciò che i ricercatori possono ottenere che la scala delle domande che possono perseguire.

Cliente

Università della Pennsylvania

Partner

VAST Data / AHEAD / Flexential

Argomento

IA generativa / LLM

Punti chiave

  • Accelerazione di 12 volte nell'addestramento di modelli di visione, linguaggio e azione, rendendo possibili modelli con oltre 3 miliardi di parametri precedentemente irraggiungibili.
  • I tempi di attesa per i casi d'uso IA approvati e in coda sono ridotti da settimane a ore.
  • 1,5 anni di tempo di calcolo ridotti a tre giorni per un progetto interdipartimentale di analisi dei documenti che copre oltre 40.000 documenti.
  • Aumento di 14 volte del throughput sperimentale giornaliero.
  • 950 ricercatori di 200 gruppi di ricerca condividono una singola piattaforma IA a ~1 $/ora di GPU, al servizio di 120.000 ore GPU al mese.
  • Modelli di IA generativa sbloccati che ottimizzano la tecnologia mRNA pionieristica del Premio Nobel di Penn, aumentando l'espressione proteica di 400 volte.

Scalare il calcolo per soddisfare l'ambizione della ricerca moderna

L'ascesa dell'IA su larga scala ha cambiato radicalmente ciò che significa fare scienza computazionale. Campi come la scienza biomedica, la robotica, la linguistica e la scienza dei materiali che richiedono risorse di calcolo specializzate ora generano carichi di lavoro di addestramento che mettono a dura prova i limiti di ciò che qualsiasi singolo laboratorio può praticamente supportare. Per Penn, un'università con dodici scuole incluse che perseguono simultaneamente la ricerca finanziata a livello federale, la domanda non era se investire nell'infrastruttura IA, ma come creare qualcosa di condiviso, accessibile e abbastanza potente da servire ogni ricercatore del campus.

Il cloud pubblico potrebbe colmare le lacune di calcolo a breve termine, ma l'economia si è rivelata difficile su scala accademica. Eseguire esperimenti ripetuti su decine di varianti di modelli, semi casuali e set di dati di grandi dimensioni è il tipo di lavoro rigoroso che promuove l'innovazione e i risultati pubblicati condivisi, oltre a opportunità di finanziamento per ulteriori esplorazioni. Tuttavia, richiedeva un livello di calcolo che non era disponibile localmente o abbastanza costoso da rendere l'iterazione impraticabile. Gli esperimenti più ambiziosi erano più difficili da perseguire proprio quando contavano di più: prima che esistessero i risultati per giustificare un ulteriore supporto economico per l'avanzamento.

Ciò di cui Penn aveva bisogno era una piattaforma in grado di incontrare ogni ricercatore laddove si trovasse, abbastanza scalabile per l'addestramento di modelli di frontiera, abbastanza conveniente per un ampio accesso e abbastanza integrata da permettere di iniziare in poche ore, non mesi.

University of Pennsylvania

Betty, un supercomputer nell'elenco TOP500 di giugno 2026, con NVIDIA DGX SuperPOD con i sistemi DGX B200 come parte dell'infrastruttura di Betty

Costruire una base IA condivisa con NVIDIA DGX SuperPOD

Tale piattaforma è Betty, basata su un NVIDIA DGX SuperPOD con sistemi NVIDIA DGX B200, il sistema di calcolo IA più avanzato di NVIDIA progettato appositamente per carichi di lavoro di addestramento e inferenza su larga scala. Betty prende il nome da Frances Elizabeth "Betty" Snyder Holberton, una delle sei programmatrici originali dell'ENIAC di Penn e una pioniera dello sviluppo di software moderno. Assemblare l'intero stack ha richiesto il coordinamento di calcolo, rete, storage e colocazione tra un team dedicato di partner. Il partner di colocazione NVIDIA DGX-Ready, Flexential, ha fornito circa un megawatt di capacità di colocazione in circa tre mesi. All'interno di Betty, NVIDIA InfiniBand fornisce il fabric ad alta velocità che collega i nodi di calcolo; separatamente, la dark fiber dedicata collega la struttura off-site direttamente al campus di Penn, fornendo ai ricercatori accesso al sistema ad alta larghezza di banda e bassa latenza.  NVIDIA e AHEAD, partner specializzato in DGX SuperPOD, hanno distribuito congiuntamente il calcolo IA, la rete ad alte prestazioni e l'infrastruttura di supporto necessarie per gestire DGX SuperPOD come una singola piattaforma integrata anziché come una raccolta di singoli server GPU.

Lo storage è stato una considerazione critica di progettazione. Penn ha distribuito un array VAST Data 15x10 che fornisce più di 250 GB/s di throughput di lettura e 60 GB/s di throughput di scrittura su più petabyte di dati, con un rapporto di riduzione dei dati coerente di 1,5:1. I ricercatori non devono più progettare i loro flussi di lavoro in base a dove risiedono i dati o a come si accede ad essi. VAST supporta i pattern altamente simultanei e ad alta intensità di dati che i carichi di lavoro IA di grandi dimensioni generano, mantenendo le risorse GPU continuamente alimentate.

Con il livello di dati in atto, Penn utilizza NVIDIA Mission Control per gestire e ottimizzare Betty come un DGX SuperPOD unificato. “NVIDIA Mission Control fornisce visibilità a livello di cluster nell'intero DGX SuperPOD, combinando dati di stato e utilizzo con potenza delle GPU, memoria, Tensor Core e telemetria di comunicazione. Con NVIDIA Mission Control, possiamo individuare i carichi di lavoro poco performanti, aiutare i ricercatori a ottimizzare il codice e ridurre i tempi di ottenimento dei risultati, restituendo la capacità alla più ampia community della Penn", ha dichiarato Kenneth Chaney, PhD, PARCC Associate Director of AI and Technology, Università della Pennsylvania. Come parte di NVIDIA Mission Control, il cluster esegue sia Slurm per i tradizionali carichi di lavoro di calcolo ad alte prestazioni (HPC) sia NVIDIA Run:ai per i carichi di lavoro nativi per l'IA, inclusi i servizi di inferenza. Ciò consente ai ricercatori di condividere la stessa infrastruttura utilizzando l'approccio di pianificazione più adatto a ogni tipo di lavoro.

La distribuzione ha anche dimostrato il valore dell'accesso diretto agli esperti IA di NVIDIA. Mentre Penn ha scalato Evo 2, un modello di base di genomica progettato per l'analisi delle sequenze di DNA a lungo contesto sulla sua NVIDIA DGX SuperPOD, i ricercatori e gli ingegneri NVIDIA hanno lavorato direttamente con l'Università per mettere a punto e ottimizzare il modello per la piattaforma. Questa collaborazione ha permesso ai ricercatori della Penn di passare dalla variante con parametri 1B ai modelli 7B e 40B con finestre di contesto fino a un milione di nucleotidi, rendendo possibili esperimenti che prima non erano fattibili nel campus.

Image Courtesy of Penn Engineering

Trasformare i mesi in giorni nella medicina, nella robotica e non solo

L'impatto sull'ambito e sulla velocità della ricerca è stato immediato. Nel programma di robotica di Penn, i ricercatori che eseguono esperimenti di apprendimento per rinforzo per navigare in ambienti sconosciuti possono ora parallelizzare completamente le prove di addestramento su Betty. Lo stesso team ha addestrato modelli di visione-language-action (VLA) basati su predicati con parametri 3B+ precedentemente fuori portata a causa dei requisiti di calcolo. I risultati hanno ottenuto un'accelerazione di 12 volte nell'addestramento dei modelli rispetto alla configurazione precedente, con risultati VLA preliminari che hanno superato lo stato dell'arte. "Su una GPU desktop, ogni esecuzione di addestramento di apprendimento per rinforzo richiede da tre a quattro ore, limitandoci a sei o sette esecuzioni al giorno. Con solo una flotta di otto GPU sul nostro DGX SuperPOD, possiamo completare 100 esecuzioni con diverse configurazioni al giorno, un incremento di oltre 14 volte del throughput sperimentale giornaliero", ha dichiarato Vijay Kumar, Professore e Nemirovsky Family Dean, Penn Engineering.

L'impatto di Betty si estende ben oltre ogni singolo laboratorio. Una collaborazione tra il Mack Institute e il Penn Center for Innovation ha utilizzato Betty per analizzare le correlazioni semantiche in più di 40.000 documenti, riducendo circa 1,5 anni di tempo di calcolo a soli tre giorni. CAMEL-ECG, un modello progettato per ridurre l'affaticamento da allarmi nella diagnostica ECG clinica, è stato addestrato su Betty da un team che comprende Penn Engineering e la Perelman School of Medicine: una collaborazione abilitata direttamente dall'accesso condiviso alla piattaforma.

La scienza biomedica è un punto di forza di lunga data presso la Penn, con ricercatori che hanno aperto la strada alla tecnologia dei vaccini a mRNA, vincitrice del Premio Nobel. Betty ora supporta un modello generativo per mRNA e costruzioni proteiche che ha dimostrato un'espressione oltre 400 volte superiore. Il corpo docente della Penn ha inoltre analizzato l'intero repository PubMed ed estratto un grafo di conoscenza per l'addestramento di modelli predittivi per tipi di biomolecole, con un sistema di co-scienziato agentico costruito su tali dati per supportare lo sviluppo di terapie a base di RNA e nanoparticelle lipidiche.

Oggi, Betty serve circa 950 ricercatori registrati in 200 gruppi di ricerca, offrendo 120.000 ore di GPU e 30.000 lavori al mese a un costo sovvenzionato di circa 1 $ per ora di GPU. Qualsiasi ricercatore del Penn può richiedere l'accesso e i nuovi utenti possono passare dall'iscrizione al lavoro produttivo su Betty in poche ore anziché settimane. “Betty offre ai ricercatori della Penn una capacità IA integrata precedentemente non disponibile nel campus. A un costo oltre 10 volte inferiore rispetto alle alternative cloud commerciali, il DGX SuperPOD trasforma l'addestramento di modelli su larga scala e i progetti di intelligenza artificiale per la scienza da iniziative impraticabili in attività che i team di ricerca possono costruire, testare e perfezionare”, ha aggiunto Vijay.

“Con il DGX SuperPOD, siamo stati in grado di migliorare la velocità di addestramento dei modelli Vision-Language-Action (VLA) di 12 volte, scalando i modelli a oltre 3 miliardi di parametri, in precedenza fuori portata.”

Vijay Kumar
, Professore e Nemirovsky Family Dean presso la Penn Engineering

Image Courtesy of Penn Engineering

Espandere la frontiera di ciò che è scientificamente possibile

Penn sta già espandendo il portfolio di modelli di Betty. La piattaforma ora serve modelli aperti su scala di frontiera, tra cui GLM-5.2-NVFP4, una distribuzione ottimizzata NVIDIA per le GPU NVIDIA Blackwell che supporta lunghezze di contesto fino a 500.000 token con distribuzioni multi-nodo Kimi K3 in corso. Le capacità di Betty supportano non solo la ricerca, ma anche l'insegnamento. Il nuovo corso "Sviluppo software con agenti di codifica IA" di Penn viene lanciato questo autunno con 75 studenti che utilizzano un endpoint di modello ospitato da Betty per i compiti di codifica e la valutazione, all'interno dei confini di governance dei dati di Penn, con un numero di iscrizioni previsto in crescita a 250 studenti in primavera.

Nell'imaging biomedico, i ricercatori della Penn stanno creando set di dati multimodali che vanno dalla scala degli organi alla risoluzione di singola cellula, creando la base per modelli che potrebbero eventualmente prevedere la funzione degli organi o supportare la medicina rigenerativa. L'impatto clinico del lavoro di Betty continua a emergere, ma la piattaforma guida già i carichi di lavoro computazionali che selezionano peptidi, proteine e mRNA candidati per i test sperimentali e la potenziale traduzione in trattamento.

L'investimento di Penn in Betty dimostra cosa diventa possibile quando un'università di ricerca tratta il calcolo non come una risorsa dipartimentale, ma come una base condivisa per l'innovazione, aperta a ogni ricercatore, accessibile su scala accademica e abbastanza potente che sia la scienza, non l'hardware, a stabilire il limite.

"Il cambiamento più notevole è l'ambizione e l'ampiezza delle domande che possono perseguire. Gli studenti di dottorato possono passare da un'idea a un esperimento di grandi dimensioni senza prima negoziare per le scarse GPU locali o ridurre il progetto per adattarlo all'hardware disponibile."

Dave Meaney
Vice Provost per la ricerca

Image Courtesy of Penn Engineering

Scopri come NVIDIA DGX SuperPOD offre il calcolo IA su scala di frontiera alle università di ricerca, condiviso, conveniente e pronto per ogni carico di lavoro fin dal primo giorno di accesso.

Storie correlate dei clienti