Sector público global
Los agentes de IA soberana de ThinkDeep ayudan a automatizar los servicios públicos para el Gobierno de Francia
Objetivo
Para ayudar al Gobierno francés a mejorar la eficiencia de sus servicios públicos, ThinkDeep AI, una empresa de tecnología de IA soberana, desarrolló una plataforma de asistentes multiagente llamada DeepBrain que permite a los funcionarios crear sus propios asistentes personales conectados a una amplia gama de fuentes de datos. Los agentes de IA recopilan y consolidan los datos en repositorios de conocimiento, lo que les permite cruzar información de diferentes fuentes y canales para encontrar patrones para aplicaciones que van desde las amenazas a la seguridad y la revisión de códigos hasta la detección de fraudes.
Juntos, ThinkDeep y NVIDIA trabajaron para desarrollar agentes de IA DeepBrain, capaces de procesar información de millones de documentos PDF, imágenes escaneadas, esquemas y vídeos.
IA de agentes para soluciones de IA soberana
La IA soberana se refiere a la capacidad de un país para desarrollar e implementar inteligencia artificial utilizando su infraestructura nacional, sus conjuntos de datos locales, su fuerza de trabajo cualificada y sus ecosistemas empresariales. En el sector público, la IA soberana significa a menudo mantener la seguridad y la integridad de los datos confidenciales, generando una demanda de soluciones de IA capaces de operar dentro de la propia infraestructura de un gobierno, garantizando que los datos críticos sigan protegidos y accesibles solo para el personal autorizado.
La administración francesa gestiona anualmente más de 100 millones de documentos para proporcionar respuestas adaptadas a las consultas de los ciudadanos. Este proceso exige a los funcionarios públicos que se mantengan al día de los cambios regulatorios, mantengan la precisión y citen referencias legales específicas relevantes para cada solicitud.
Para que los servicios públicos funcionen de forma eficiente, estos profesionales deben ofrecer respuestas rápidas y fiables en sus áreas de especialización, pero también ser capaces de procesar enormes cantidades de documentación legal en tiempo real, al tiempo que garantizan en todo momento la confidencialidad, la seguridad y el cumplimiento de la Ley europea de la IA.
La implementación y el mantenimiento de soluciones eficaces de IA soberana requieren una potencia de computación sustancial. Para resolver los problemas de procesamiento de datos y documentos a los que se enfrentan el Ministerio de Economía y Finanzas y el Ministerio de Defensa de Francia, el equipo de ThinkDeep recurrió a la plataforma NVIDIA AI. La plataforma modular y flexible con una GPU NVIDIA H100 Tensor Core, las GPU NVIDIA H200 Tensor Core y el software NVIDIA AI Enterprise, incluidos los microservicios NVIDIA NIM™, como NVIDIA NeMo™ Retriever, los modelos NVIDIA Llama Nemotron y NVIDIA NeMo Guardrails, se utilizó para desarrollar DeepBrain, una solución de IA de agentes.
«El conocimiento y la experiencia de ThinkDeep AI han sido fundamentales para la implementación y el escalado de nuestra plataforma de IA generativa», dijo Thomas Binder, jefe de IA en la Dirección General de Finanzas Públicas de Francia.
Agente público de Francia: el sistema multiagentes DeepBrain
DeepBrain habilita agentes de IA de ámbitos específicos que pueden conectarse e interactuar con enormes cantidades de datos de diferentes fuentes para extraer y analizar información para encontrar patrones relevantes. El enfoque único de confidencialidad de datos del agente DeepBrain garantiza que los datos se mantengan en la infraestructura del cliente en todo momento, para garantizar el más alto nivel de seguridad y confidencialidad.
A través de DeepBrain, los usuarios pueden tener su propio agente de detección de fraudes o un agente para el procesamiento de documentos legales, utilizando conocimiento del ámbito agregado de toda la documentación legal francesa. Como sistema multiagente, estos agentes pueden interactuar entre sí para realizar flujos de trabajo complejos o responder a consultas en varios ámbitos.
ThinkDeep garantiza un rendimiento máximo al utilizar tecnologías avanzadas de NVIDIA, incluidos NIM para la integración, el empaquetado y la implementación de los modelos lingüísticos de gran tamaño (LLM) más recientes de forma local y NVIDIA Dynamo para optimizar la velocidad de inferencia para modelos de razonamiento de vanguardia. ThinkDeep también utilizó el marco NeMo para integrar a la perfección los LLM y los modelos de lenguaje de visión (VLM) en su infraestructura existente.
Para garantizar el uso seguro y responsable de estos potentes agentes de IA, ThinkDeep implementó barreras de protección robustas utilizando el kit de herramientas NVIDIA NeMo Guardrails. Las barreras de protección proporcionan salvaguardias esenciales contra riesgos potenciales, como los resultados sesgados o dañinos, lo que les ayuda a mantener las normas más altas de práctica ética de la IA.
Para garantizar la soberanía y la confidencialidad de los datos, el Ministerio de Economía y Finanzas seleccionó a NVIDIA para una solución de infraestructura soberana local. La plataforma NVIDIA DGX™ permite al ministerio acceder a las GPU necesarias para atender a millones de usuarios diarios con los últimos modelos.
Agentes de IA que ahorran tiempo y dinero al Gobierno francés
Las ventajas de DeepBrain para el Gobierno francés incluyen un procesamiento de documentos más rápido, el ahorro de costes, el aumento de la productividad y el ahorro de energía.
- Los clientes pudieron automatizar el proceso de recuperación de documentos, mejorando de dos días a dos minutos.
- La implementación supuso un esfuerzo bajo, con solo una semana para configurar la instancia de DeepBrain y los conectores.
- La productividad aumentó con 1000 horas ahorradas al mes para una implementación típica de 100 usuarios.
- El Ministerio de Finanzas ha ahorrado 2 millones de euros al implementar DeepBrain a escala para 10 000 empleados.
- Al controlar los modelos y la infraestructura, el Ministerio optimizó la gestión de la energía y redujo los costes medioambientales y de gestión de la energía.
DeepBrain ha acelerado significativamente el análisis de documentos legales para los funcionarios públicos. Lo que antes llevaba hasta dos días encontrar información relevante ahora lleva dos minutos, lo que permite tiempos de respuesta más rápidos y ahorro de millones de euros, tanto en costes operativos como al detectar posibles fraudes en etapas iniciales del proceso.
La metodología DeepBrain Graph permite una búsqueda en tiempo real y sin esfuerzo en millones de archivos y relaciones, ofreciendo respuestas precisas y fundamentadas. Simultáneamente, construye bases de conocimiento personalizadas y específicas de un ámbito adaptadas a casos de uso y usuarios individuales.
Desde el lanzamiento de su producto DeepBrain, ThinkDeep ha experimentado una aceptación significativa en el mercado e interés de los clientes, especialmente en el ámbito de la IA soberana. El aumento de la demanda abarca una amplia gama de sectores, incluidas las finanzas, las organizaciones del sector público, aeroespacial y energético. Las capacidades de IA soberana de DeepBrain probablemente atraen a estos sectores debido a su necesidad de protección de datos, control y cumplimiento de las regulaciones locales.
Resultados
Con la vista puesta en el futuro
A medida que el mundo se vuelve cada vez más impulsado por los datos, la tecnología innovadora de DeepBrain AI está preparada para jugar un papel fundamental en la configuración del futuro de la inteligencia artificial y su impacto en la sociedad.
La colaboración entre ThinkDeep y NVIDIA ha demostrado ser un esfuerzo de gran éxito, que ha dado lugar a avances en la investigación y el desarrollo de la IA. La asociación seguirá evolucionando, especialmente a medida que ThinkDeep profundiza en el ámbito de los sistemas de razonamiento de IA multiagente.
Las aplicaciones potenciales de los sistemas multiagente son vastas y de largo alcance, abarcan sectores como las finanzas, la atención sanitaria y la logística. Al aprovechar la inteligencia colectiva, la IA de DeepBrain permite a las empresas y las organizaciones tomar decisiones más informadas, optimizar sus operaciones e impulsar la innovación.
¿Tiene todo listo para empezar?
Para obtener más información sobre las soluciones de NVIDIA para el sector público global, póngase en contacto con nosotros.