Servizi finanziari
NeoSpace sviluppa modelli di base tabolari di grandi dimensioni per le istituzioni finanziarie
Obiettivo
NeoSpace, membro di NVIDIA Inception, aiuta le aziende a trasformare migliaia di miliardi di record tabulari, di eventi e non strutturati in previsioni e decisioni in tempo reale utilizzando modelli foundation tabulari aziendali. La sua piattaforma NeoData, basata sul calcolo accelerato NVIDIA, offre le prestazioni e la scalabilità operativa necessarie per l'elaborazione complessa dei dati aziendali. Banche, operatori di telecomunicazioni, compagnie di assicurazioni e aziende in più settori stanno già adottando questa nuova tecnologia per sbloccare maggiore intelligenza e valore dai propri dati. Una delle più grandi banche private dell'America Latina ha utilizzato i modelli di base di NeoSpace per migliorare significativamente il processo decisionale sul credito e sbloccare offerte di credito a rate.
Cliente
NeoSpace
Partner
Oracle Cloud Infrastructure (OCI)
Argomento
IA generativa / LLM
Prodotti
Punti chiave
Maggiore accuratezza dei modelli di base
- Accuratezza dei modelli superiore del 30%–50% rispetto agli approcci ML tradizionali, offrendo previsioni più coerenti su popolazioni, modalità di dati e tempo.
Prestazioni del modello sottoposto a fine-tuning
- Aumento del 19% rispetto al modello di base di NeoSpace, grazie alle più numerose iterazioni di addestramento consentite dall'infrastruttura NVIDIA AI.
Accessibilità al credito migliorata
- Aumento del 10% delle offerte di credito a rate, trainato dai più elevati tassi di assunzione e conversione nel decimo superiore dei clienti di NeoSpace.
Scalare i modelli Transformer per le decisioni in tempo reale
Prima di utilizzare la piattaforma di calcolo accelerato di NVIDIA, NeoSpace ha visto che i carichi di lavoro aziendali progettati per essere eseguiti su modelli ML tradizionali avevano difficoltà a stare al passo con il volume e la complessità dei dati.
Mentre i clienti sono passati a modelli di base basati su trasformatori addestrati su set di dati aziendali, sono apparsi colli di bottiglia nei tempi di addestramento, nonché nella produttività dell'inferenza, nella latenza e nei costi. Per le grandi istituzioni finanziarie, questi vincoli si sono tradotti in una sperimentazione più lenta, casi d'uso limitati e difficoltà nel fornire decisioni personalizzate in tempo reale a decine di milioni di clienti finali.
NeoSpace aveva bisogno di un modo per rendere i modelli di base nei servizi finanziari adatti alla produzione ed economicamente fattibili, in modo che le banche potessero scalare le applicazioni IA su migliaia di miliardi di record aziendali.
L'addestramento NeoData gestisce una dashboard per modelli specifici per dominio, tra cui le strategie di investimento.
NeoData su NVIDIA Blackwell con CUDA
NeoSpace ha progettato la propria piattaforma NeoData per l'esecuzione sul calcolo accelerato NVIDIA sia per l'addestramento che per l'inferenza, trasformando i dati strutturati e non strutturati dei propri clienti in informazioni strategiche in tempo reale.
NeoData ora opera su larga scala in un ambiente multi-cloud per una delle più grandi banche private dell'America Latina con oltre 60 milioni di clienti.
NeoSpace è tra le prime aziende in America Latina a distribuire sistemi NVIDIA GB200 NVL72 in produzione, attraverso Oracle Cloud Infrastructure (OCI).
Lo stack di NeoSpace è inoltre basato su librerie NVIDIA® CUDA® per accelerare l'addestramento e la distribuzione dei suoi modelli di base, tra cui:
- Programmazione GPU Core: CUDA Toolkit, NCCL, NVSHMEM, GPUDirect®
- Librerie numeriche e primitive: cuBLAS, CUTLASS, CuTe
- Framework IA e scienza dei dati: RAPIDS™, NVIDIA TensorRT™ LLM, Dask
NeoSpace orchestra le proprie GPU NVIDIA utilizzando NeoCore, uno strumento interno che viene eseguito direttamente sugli host bare-metal nei suoi ambienti multi-cloud per gestire la distribuzione del carico di lavoro. Questa architettura consente a NeoSpace di eseguire modelli di base come livello predittivo nei casi d'uso, sostituendo le pipeline ML frammentate con un approccio unificato e adatto alla produzione.
La dashboard del server di inferenza NeoData monitora lo stato di salute del sistema, le prestazioni e l'utilizzo delle risorse per checkpoint specifici dei modelli in materia di investimenti, valutazione dei rischi, previsioni della volatilità e altro ancora.
Maggiore accuratezza e aumento delle offerte di credito rateale
Rispetto ai modelli ML tradizionali, i modelli di base di NeoSpace basati su NVIDIA hanno offerto risultati migliori tra i vari segmenti di clientela, nelle diverse tipologie di dati e nel corso del tempo. NeoSpace ha ottenuto un'accuratezza superiore di almeno il 30%–50%, consentendo ai propri clienti di servizi finanziari di espandere i casi d'uso dell'IA senza dover riprogettare la loro infrastruttura.
In una distribuzione di punta, NeoSpace ha lavorato con un'altra importante istituzione finanziaria dell'America Latina per creare una soluzione di modellazione della propensione su dati tabolari su larga scala per identificare i clienti con maggiori probabilità di contrarre un credito rateale.
Il modello è stato valutato utilizzando Kolmogorov–Smirnov (KS), il tasso di selezione e il tasso di conversione per decili. Questa distribuzione ha avuto un impatto su 6 milioni di clienti in produzione e ha sfruttato più di 10 TB di dati che coprono oltre 50 milioni di clienti, tra cui feature store CRM, variabili di idoneità, storico del comportamento contrattuale, dati transazionali e altro ancora.
Rispetto alla base di riferimento esistente della banca, NeoSpace ha garantito un miglioramento da 10 a 20 punti percentuali in KS. Il tasso di sottoscrizione nel decile superiore è aumentato di 20-30 punti percentuali, a dimostrazione del fatto che una quota maggiore di clienti che hanno sottoscritto l'offerta di credito a rate della banca era concentrata nel segmento a più alta propensione. Questi guadagni in termini di prestazioni hanno permesso alla banca di contattare meno clienti, ottenendo risultati complessivi più elevati, aumentando l'efficienza per interazione e consentendo più campagne ad alto impatto.
Nel complesso, la strategia di propensione migliorata si è tradotta in un aumento del 10% delle offerte di credito a rate, grazie a un migliore ranking dei clienti ad alta propensione e a un coinvolgimento preciso. Questi modelli di base sono il nuovo livello predittivo centrale dell'istituzione che offre previsioni più stabili, un time-to-value più rapido e un miglioramento dell'efficienza aziendale.
La prossima fase con NeoSpace
NeoSpace sta testando un modello integrato che combina l'attuale modello tabulare con dati transazionali basati su eventi, come transazioni con carta di credito, attività del conto corrente e pagamenti di bollette, e si prevede che aggiungerà circa 5 punti percentuali di incremento aggiuntivo alle offerte di credito rateale.
La banca sta già applicando in parallelo questo framework di modellazione della propensione, passando da un singolo prodotto a quasi 50 prodotti finanziari e creando una piattaforma in grado di comprendere ogni cliente, anticiparne le esigenze e scalare il coinvolgimento personalizzato.
Creando NeoData sulla piattaforma NVIDIA Blackwell e sullo stack software CUDA, NeoSpace ha implementato modelli di base di servizi finanziari pronti per la produzione che collegano i dati alle decisioni per alcune delle più grandi istituzioni finanziarie dell'America Latina.
"I modelli di base aziendali sono il livello mancante tra dati e decisioni. Con NVIDIA, stiamo rendendo quel livello pronto per la produzione, con addestramento e servizio su scala, in modo che i clienti possano sbloccare il valore predittivo da migliaia di miliardi di record aziendali.
Bruno Pierobon
CEO, NeoSpace
Scopri le principali aziende di servizi finanziari che utilizzano l'IA per ottimizzare il trading, rilevare le frodi nelle transazioni e migliorare le esperienze dei clienti.