CCC utilizza NVIDIA DGX Cloud per gestire e orchestrare il flusso di lavoro di sviluppo, accelerando la consegna di soluzioni basate sull'IA.
CCC Intelligent Solutions Inc.
Training per IA
NVIDIA AI Enterprise, NVIDIA Base Command, NVIDIA DGX A100, NVIDIA DGX Cloud
Fondata nel 1980, CCC Intelligent Solutions (CCC) è una piattaforma SaaS (software-as a service) leader per l'economia assicurativa di proprietà e sinistri (P&C), che alimenta le operazioni di assicuratori, riparatori, case automobilistiche, fornitori di parti, istituti di credito e altro ancora. Più di 300 assicuratori e 28.000 strutture di riparazione in tutto il paese utilizzano la tecnologia di CCC per elaborare sinistri e riparazioni con velocità e maggiore efficienza. CCC gestisce un ambiente di produzione cloud al 100%, fornendo ai clienti una piattaforma flessibile per l'innovazione continua.
La visione di CCC è quella di accelerare la trasformazione digitale del settore assicurativo e automobilistico utilizzando soluzioni abilitate dall'intelligenza artificiale che automatizzano i flussi di lavoro e consentono un miglior processo decisionale. L'azienda è la prima nel settore dei sinistri assicurativi auto a consentire l'elaborazione diretta delle stime di riparazione. CCC® Estimate (STP) utilizza l'intelligenza artificiale, regole decise dall'assicuratore e il vasto ecosistema di CCC per digitalizzare il processo di stima dei sinistri in pochi secondi, migliorando l'esperienza cliente. I clienti elaborano oltre 16 milioni di sinistri utilizzando le soluzioni CCC ogni anno. I clienti hanno elaborato più di 14 milioni di sinistri unici utilizzando l'IA di visione artificiale di CCC nel 2022.
CCC ha un ampio team di data scientist impegnati a innovare e accelerare l'esperienza di sinistro e riparazione delle auto per i propri clienti. Tuttavia, la gestione di più team e flussi di lavoro in molte innovazioni può rappresentare una sfida. "Per innovare costantemente e sviluppare soluzioni intelligenti per l'elaborazione delle richieste di risarcimento auto, dobbiamo stabilire un'organizzazione ottimale con i set di strumenti giusti per fornire soluzioni basate sull'IA in modo efficace", afferma Reza Rooholamini, Chief Scientific Officer di CCC. Rooholamini afferma: "I nostri data scientist svolgono un ruolo cruciale nella creazione di nuove soluzioni e la capacità di costruire modelli, sperimentare e integrare facilmente questi modelli nei nostri flussi di lavoro di IA è fondamentale".
CCC ha creato una pipeline di sviluppo e addestramento di IA nel cloud ibrido end-to-end. Questa infrastruttura sfrutta oltre 150 GPU NVIDIA A100 Tensor Core, tra cui DGX Cloud e ulteriori sistemi NVIDIA DGX in loco.
I team di sviluppo di CCC utilizzano DGX Cloud come soluzione AI-training-as-a-service per integrare la capacità in loco, supportare i picchi di domanda di supercomputing e accelerare lo sviluppo dell'IA in generale.
Con il 25-30% del tempo dedicato alla sperimentazione da parte dei suoi data scientist e dei team di ingegneri, insieme a enormi set di dati che crescono ogni giorno, CCC aveva bisogno di abilitare un multi-cloud ibrido più scalabile e multi-piattaforma per il suo ambiente di sviluppo.
Immagine per gentile concessione di CCC
“Poiché disponiamo di una pipeline di sviluppo di IA core che si integra in altre pipeline e plug-in, è importante per noi disporre di una piattaforma centralizzata per gestire e orchestrare le risorse di calcolo IA per i nostri sviluppatori. Ciò garantisce che i diversi team che lavorano con risorse condivise ottengano l'elaborazione di cui hanno bisogno per i loro progetti”, afferma Andrey Ptashnik, architetto aziendale capo di CCC.
“All’interno di DGX Cloud, stiamo utilizzando l’API aperta di Base Command Platform e la compatibilità con l’API di Kubernetes per integrarla facilmente nella nostra pipeline di sviluppo del modello interno, sfruttandola come gestore di pianificazione e di risorse”.
CCC raccoglie milioni di punti dati strutturati e non strutturati ogni anno, quindi avere la libertà di trasferire i dati tra le nostre risorse di formazione è della massima importanza per garantire velocità e flessibilità. “Oltre a poter avviare i lavori e automatizzarli molto più velocemente, Base Command Platform rende anche il trasferimento dei dati molto più semplice. I clienti di CCC elaborano milioni di richieste ogni anno con le soluzioni CCC, generando molti dati. I dati devono essere estratti dall’ambiente di produzione in sotto-laghi, trasferiti nel luogo in cui viene sviluppato il modello e resi anonimi prima di poter sperimentare su di essi”, ha detto Ptashnik. “Siamo in grado di estrarre facilmente set di dati nella piattaforma Base Command e gestirli. Quando pianifichiamo i lavori su DGX Cloud, possiamo raccogliere questi set di dati dalla piattaforma Base Command e organizzare e allineare le nostre risorse di elaborazione di conseguenza.”
Reza Horrieh, senior manager dell’infrastruttura e della sicurezza dell’IA, di CCC, ha spiegato: “Con DGX Cloud, il nostro team accede a una potente infrastruttura di sviluppo di IA che fornisce un cloud di sviluppo dedicato 24 ore su 24, 7 giorni su 7, con un ottimo team di supporto.”
Immagine per gentile concessione di CCC
Utilizzando la loro pipeline di intelligenza artificiale, CCC ha lanciato CCC Estimate – STP nel 2021, che può fornire una stima dettagliata a livello di linea di una collisione basata sulle regole dell’assicuratore in pochi secondi da poche immagini da un telefono cellulare rispetto ai diversi giorni che può richiedere l’utilizzo di metodi manuali. Questo processo di stima digitalizzato non solo ha contribuito a migliorare l’esperienza del cliente, ma sta creando una maggiore efficienza per i clienti.
“Sviluppiamo un insieme di grandi modelli e DGX Cloud ci consente di addestrare i modelli e migliorare le funzionalità più velocemente, mentre Base Command Platform ci consente di garantire un utilizzo ottimale”, afferma Neda Hantehzadeh, PhD, direttore della scienza dei dati presso CCC. “Con la gestione dei set di dati e le capacità di orchestrazione di Base Command Platform, i nostri data scientist hanno segnalato un aumento di velocità di due volte superiore negli esperimenti in esecuzione”.
DGX Cloud ha accelerato lo sviluppo del modello e migliorato l’efficienza dei costi. “Con DGX Cloud integrato nella nostra pipeline di intelligenza artificiale, possiamo accelerare lo sviluppo del modello, sviluppando alcuni modelli in pochi giorni”, afferma Rooholamini.
Hantehzadeh ha aggiunto: “Eseguiamo molti esperimenti in loco, ma potremmo avere picchi in cui vogliamo aggiungere, ad esempio, 10 milioni di punti di dati in più ed effettuare un’altra esecuzione. Se non abbiamo abbastanza capacità con i nostri sistemi interni, passiamo a DGX Cloud. La piattaforma Base Command rende questo processo fluido.”
Velocità
“Utilizzando le funzionalità di gestione e orchestrazione dei set di dati di DGX Cloud e Base Command Platform, i nostri data scientist hanno segnalato un aumento di velocità di 2 volte nella gestione degli esperimenti.”
Neda Hantehzadeh
PhD, Direttore di Data Science, CCCIS
CCC prevede di continuare a investire in tecnologie innovative e flessibili per mantenere la sua posizione all'avanguardia nello sviluppo dell'IA. "La pipeline di IA end-to-end che abbiamo costruito ci consente di mettere in atto tutti i tipi di innovazioni. Stiamo iniettando un sacco di IA e automazioni in diversi prodotti", afferma Hantehzadeh. "La domanda di addestramento di modelli è in aumento e la capacità di utilizzare strumenti cloud-nativi che accedono facilmente alla nostra potente infrastruttura IA, gestiscono meglio le nostre risorse, la sperimentazione e lo sviluppo su cloud ibridi, in base alle esigenze, ci aiuterà a lanciare rapidamente nuove soluzioni sul mercato".
Guardando al futuro, il team prevede di continuare a sfruttare la sua pipeline di IA integrata con DGX Cloud per la formazione multi-nodo di modelli di visione artificiale e linguaggio su larga scala.
“Eseguiamo molti esperimenti in loco, ma potremmo avere picchi in cui vogliamo aggiungere, ad esempio, 10 milioni di punti di dati in più ed effettuare un’altra esecuzione. Se non abbiamo abbastanza capacità in loco, passiamo a DGX Cloud. Base Command Platform rende questo processo fluido.
Neda Hantehzadeh
PhD, Direttore di Data Science, CCCIS