Settore industriale e manifatturiero
Tractian
Azienda leader nel settore della physical AI e membro di NVIDIA Inception, Tractian sta ottimizzando i macchinari pesanti tradizionali tramite l'IA. Ciò include dispositivi 4-in-1 che acquisiscono vibrazioni, temperatura, ultrasuoni e giri al minuto. Basata sulla piattaforma di calcolo accelerato di NVIDIA, la piattaforma di Tractian elabora terabyte di dati dei sensori provenienti da 200.000 macchine dell'industria pesante presso 1.500 produttori statunitensi e globali, eseguendo 500 milioni di richieste di inferenza al giorno attraverso 50 agenti specializzati.
Tractian
Oracle Cloud Infrastructure (OCI)
IA generativa / LLM
Addestramento e iterazioni di modelli più veloci
Costi di inferenza e latenza inferiori
Gli avvisi di manutenzione automatizzati riducono i costi operativi
Il mondo dell'industria si basa su milioni di macchine che generano grandi quantità di dati fisici come vibrazioni, temperatura, firme sonore e consumo energetico, ma la maggior parte di questi dati veniva conservata in clipboard, fogli di calcolo e sistemi di monitoraggio isolati. I tempi di inattività non pianificati costano ai maggiori produttori mondiali circa 1,4 trilioni di dollari all'anno, circa l'11% del fatturato totale, mentre i tradizionali strumenti di monitoraggio delle condizioni segnalano solo le anomalie senza spiegare cosa sta succedendo o cosa fare dopo. I team di manutenzione sono costretti a interpretare manualmente spettri di vibrazioni complessi, a fare controlli incrociati con le schede tecniche e a prendere decisioni ad alto rischio sotto pressione.
Tractian ha deciso di creare modelli di base di physical AI in grado di comprendere il comportamento delle macchine industriali. L'azienda aveva bisogno di elaborare miliardi di campioni di sensori, eseguire Fast Fourier Transform (FFT) in tempo reale sui dati di vibrazione, addestrare modelli specifici per dominio e soddisfare milioni di richieste di inferenza al giorno su centinaia di migliaia di macchine. Tractian aveva bisogno di un partner tecnologico per il supporto a partire dalla sperimentazione in fase iniziale su una workstation per sviluppatori fino a un cluster di produzione da 500 GPU, fornendo al contempo iterazioni di addestramento più rapide e costi per token inferiori per l'inferenza.
Tractian
Tractian
I sensori Tractian monitorano e analizzano i dati dei macchinari industriali.
Tractian ha collaborato con NVIDIA sull'intero stack, dall'elaborazione del segnale a basso livello all'addestramento multimodale fino alla distribuzione ottimizzata dell'inferenza. Le librerie NVIDIA CUDA-X™, tra cui cuFFT, hanno accelerato le pipeline FFT tradizionali e di elaborazione dei segnali che trasformano le forme d'onda delle vibrazioni in indicatori di anomalie in tempo reale.
Tractian ha addestrato i propri modelli di physical AI multimodale su 3,5 miliardi di campioni di sensori raccolti utilizzando cluster di calcolo distribuiti con NVIDIA GB300 NVL72, H200 e H100 e NVIDIA Collective Communications Library (NCCL). I suoi ingegneri ML prototipano nuovi modelli e agenti sulle workstation per sviluppatori NVIDIA DGX Spark™ , quindi scalano i carichi di lavoro in un ambiente cloud ibrido in esecuzione su istanze di GPU bare-metal di Oracle Cloud Infrastructure, orchestrate da Kubernetes.
In produzione, Tractian gestisce 50 agenti di physical AI specializzati, ciascuno dedicato a un'attività specifica come rilevare guasti, classificare la gravità, analizzare la causa principale, prescrivere riparazioni, ottimizzare il consumo energetico e guidare la manutenzione in linguaggio naturale. NVIDIA® TensorRT™ ottimizza questi modelli per il servizio a bassa latenza, mentre NVIDIA Dynamo gestisce le distribuzioni multi-modello su 500 GPU per offrire 500 milioni di richieste di inferenza IA al giorno. Il risultato è un "copilota industriale" che consente ai tecnici di porre domande in linguaggio naturale e di ricevere raccomandazioni allineate al produttore e contestuali in pochi secondi.
Tractian
Utilizzando la piattaforma IA completa di NVIDIA, Tractian ha trasformato i segnali fisici grezzi in informazioni strategiche che possono essere distribuite su scala industriale. Tractian ha ridotto il tempo medio di addestramento del 35%, consentendo iterazioni più rapide su agenti specifici per dominio e una copertura estesa a più tipi di macchine e settori. Durante l'inferenza, NVIDIA TensorRT e Dynamo hanno ridotto la latenza del 50% e i costi di servizio del 15%. I costi complessivi di addestramento sono diminuiti del 20% poiché gli sviluppatori di Tractian hanno eseguito anche la prototipazione localmente su NVIDIA DGX Spark prima di passare al proprio cluster cloud ibrido.
"Grazie all'infrastruttura Oracle e NVIDIA, i nostri costi di inferenza sono diminuiti del 15%, mentre abbiamo ridotto la latenza del 50%, aiutando il team a fornire informazioni tempestive e a migliorare la manutenzione delle risorse critiche dei nostri clienti".
JP Voltani
VP of Engineering di Tractian
Tractian prevede di continuare a investire in modelli multimodali all'avanguardia che incorporano ulteriori modalità di sensori, come dati acustici, visivi e termici, basati sulla piattaforma di calcolo accelerato di NVIDIA. Ciò include l'espansione della sua flotta di agenti IA per coprire ulteriori casi d'uso nelle operazioni industriali, dalla manutenzione e l'ottimizzazione energetica ai flussi di lavoro per la sicurezza. Tractian sta scalando la propria fabbrica IA per servire milioni di macchine negli Stati Uniti, in America Latina e in Europa. NVIDIA continua a essere il partner tecnologico fondamentale che consente alla fabbrica IA di Tractian di acquisire ogni giorno terabyte di dati dei sensori e di offrire informazioni in tempo reale su scala globale.
Scopri come NVIDIA AI trasforma le operazioni industriali e la produzione.