Settore pubblico globale
Gli agenti IA di ThinkDeep aiutano ad automatizzare i servizi pubblici per il governo francese
Obiettivo
Per aiutare il governo francese a migliorare l'efficienza dei servizi pubblici, ThinkDeep AI, un'azienda che si occupa di tecnologia IA sovrana, ha sviluppato una piattaforma per assistenti multi-agente chiamata DeepBrain che consente ai dipendenti pubblici di creare i propri assistenti personali connessi a una vasta gamma di fonti di dati. Gli agenti IA raccolgono e consolidano i dati nelle knowledge base così da fare un riferimento incrociato con le informazioni da diverse fonti e canali per trovare schemi per applicazioni che vanno dalle minacce alla sicurezza e la revisione del codice al rilevamento delle frodi.
Insieme, ThinkDeep e NVIDIA hanno collaborato per sviluppare gli agenti IA DeepBrain, in grado di elaborare le informazioni da milioni di documenti PDF, scansioni di immagini, schemi e video.
IA agentica per soluzioni di IA sovrana
L'IA sovrana si riferisce alla capacità di un Paese di sviluppare e distribuire l'intelligenza artificiale utilizzando la propria infrastruttura interna, i set di dati locali nonché la forza lavoro qualificata e gli ecosistemi aziendali. Nel settore pubblico, l'IA sovrana spesso significa mantenere la sicurezza e l'integrità dei dati sensibili, ciò fa sì che siano necessarie soluzioni IA in grado di operare all'interno dell'infrastruttura governativa e di garantire la protezione dei dati critici e l'accesso unicamente al personale autorizzato.
L'amministrazione francese gestisce oltre 100 milioni di documenti all'anno per fornire risposte personalizzate alle richieste dei cittadini. Per fare ciò, è necessario che i dipendenti pubblici rimangano al passo con le modifiche normative, mantengano un certo grado di accuratezza e siano in grado di citare riferimenti legali specifici per ogni richiesta.
Affinché i servizi pubblici funzionino in modo efficiente, il personale deve fornire risposte rapide e affidabili in tutte le aree di competenza, ma deve inoltre essere anche in grado di elaborare enormi quantità di documentazione legale in tempo reale, garantendo sempre la massima riservatezza, sicurezza e conformità al regolamento europeo sull'IA.
Implementare e mantenere soluzioni IA sovrane efficaci richiede una notevole potenza di calcolo. Per risolvere i problemi di elaborazione dei dati e documenti del Ministero dell'Economia e delle Finanze e del Ministero della Difesa francese, il team di ThinkDeep ha puntato sulla piattaforma NVIDIA AI. Per sviluppare la soluzione di IA agentica DeepBrain, è stata utilizzata la piattaforma modulare e flessibile NVIDIA AI con GPU NVIDIA H100 Tensor Core, GPU NVIDIA H200 Tensor Core e software NVIDIA AI Enterprise, con microservizi NVIDIA NIM™ come NVIDIA NeMo™ Retriever, modelli NVIDIA Llama Nemotron e NVIDIA NeMo Guardrails.
“Le conoscenze e l'esperienza di ThinkDeep AI sono state fondamentali per l'implementazione e la scalabilità della nostra piattaforma di IA generativa”, ha dichiarato Thomas Binder, responsabile dell'IA presso la Direzione Generale delle Finanze Pubbliche francese.
L'agente pubblico francese: il sistema multi-agente di DeepBrain
DeepBrain consente agli agenti IA specifici per dominio di connettersi e interagire con enormi quantità di dati da diverse fonti per estrarre e analizzare le informazioni e trovare modelli rilevanti. L'approccio unico alla riservatezza dei dati dell'agente DeepBrain garantisce che le informazioni rimangano sempre sull'infrastruttura del cliente, per mantenere sempre il massimo livello di sicurezza e riservatezza.
Attraverso DeepBrain, gli utenti possono avere il proprio agente per il rilevamento delle frodi o un agente per l'elaborazione dei documenti legali, utilizzando le conoscenze di dominio aggregate da tutta la documentazione legale francese disponibile. Facendo parte di un sistema multi-agente, i singoli agenti possono interagire tra loro per realizzare flussi di lavoro complessi o rispondere a domande che interessano più domini.
ThinkDeep garantisce le massime prestazioni utilizzando diverse tecnologie NVIDIA all'avanguardia, tra cui la soluzione NIM, per integrare, creare pacchetti e distribuire i modelli linguistici di grandi dimensioni più recenti in loco, e NVIDIA Dynamo, per ottimizzare la velocità di inferenza per i modelli di ragionamento all'avanguardia. ThinkDeep ha inoltre utilizzato il framework NeMo per integrare perfettamente gli LLM e i VLM nella propria infrastruttura esistente.
Per garantire l'uso sicuro e responsabile di questi potenti agenti IA, ThinkDeep ha implementato solidi guardrail di sicurezza utilizzando il toolkit NVIDIA NeMo Guardrails. Tali misure di sicurezza forniscono protezioni essenziali contro potenziali rischi, come la generazione di risultati distorti o dannosi, aiutando a mantenere i più elevati standard etici nel campo dell'IA.
Per garantire la sovranità e la riservatezza dei dati, il Ministero dell'Economia e delle Finanze ha scelto NVIDIA come soluzione infrastrutturale sovrana in sede. La piattaforma NVIDIA DGX™ consente al ministero di accedere alle GPU necessarie per servire milioni di utenti quotidianamente con i modelli più recenti.
Gli agenti IA fanno risparmiare tempo e denaro al governo francese
I vantaggi di DeepBrain per il governo francese includono l'elaborazione più veloce dei documenti, il risparmio sui costi, l'aumento della produttività e il risparmio energetico.
- I clienti hanno potuto automatizzare il processo di recupero dei documenti, passando da un lasso di tempo di due giorni a due minuti.
- L'implementazione è stata semplice e ha richiesto una settimana per configurare e impostare l'istanza di DeepBrain e i connettori.
- La produttività è aumentata con un risparmio di 1.000 ore al mese su un campione tipico di 100 utenti.
- Il ministero delle Finanze ha risparmiato 2 milioni di euro con l'implementazione di DeepBrain su vasta scala per 10.000 dipendenti.
- Controllando i modelli e l'infrastruttura, il ministero ha inoltre ottimizzato la gestione energetica e ridotto i costi energetici e ambientali.
DeepBrain ha accelerato notevolmente l'analisi dei documenti legali per i funzionari pubblici. Mentre prima la ricerca di informazioni rilevanti poteva richiedere fino a due giorni ora bastano due minuti, un cambiamento che rende possibili tempi di risposta più rapidi e fa risparmiare milioni di euro, sia in termini di costi operativi che di individuazione di potenziali frodi in tempi più rapidi e in anticipo.
La metodologia DeepBrain Graph consente di effettuare ricerche in tempo reale e senza sforzi tra milioni di file e relazioni, fornendo risposte accurate e precise. Contemporaneamente, crea basi di conoscenza personalizzate e specifiche per dominio in base ai singoli casi d'uso e utenti.
Dal lancio del prodotto DeepBrain, ThinkDeep ha registrato una significativa crescita sul mercato e un sempre maggiore interesse da parte dei clienti, soprattutto nel settore dell'AI sovrana. La crescente domanda interessa una vasta gamma di campi, tra cui la finanza, altre organizzazioni del settore pubblico, l'industria aerospaziale e il settore dell'energia. Le funzionalità per l'IA sovrana di DeepBrain sono particolarmente allettanti per questi settori per la necessità di sicurezza dei dati, il controllo e la conformità alle normative locali.
Risultati
Guardando in avanti
Con un mondo sempre più orientato ai dati, la tecnologia rivoluzionaria di DeepBrain AI può svolgere un ruolo fondamentale nel plasmare il futuro dell'intelligenza artificiale e il suo impatto sulla società.
La collaborazione tra ThinkDeep e NVIDIA si è rivelata un grande successo e ha portato a progressi nella ricerca e nello sviluppo dell'IA. La partnership continuerà ad evolversi, soprattutto visto il desiderio di ThinkDeep di approfondire il campo dei sistemi di ragionamento multi-agente.
Le potenziali applicazioni dei sistemi multi-agente sono vaste e coprono settori come la finanza, la sanità e la logistica. Sfruttando l'intelligenza collettiva, DeepBrain AI consente alle aziende di prendere decisioni informate, ottimizzare le operazioni e promuovere l'innovazione.
Vuoi iniziare?
Per saperne di più sulle soluzioni NVIDIA dedicate al settore pubblico globale, contattaci.