Globaler öffentlicher Sektor
Die KI-Agenten von ThinkDeep helfen bei der Automatisierung öffentlicher Dienste für die französische Regierung
Ziel
Um die französische Regierung bei der Verbesserung der Effizienz ihrer öffentlichen Dienste zu unterstützen, hat ThinkDeep AI eine Multi-Agenten-Assistentenplattform namens DeepBrain entwickelt. Auf dieser Plattform können öffentliche Bedienstete ihre eigenen persönlichen Assistenten entwickeln, die mit einer Vielzahl von Datenquellen verbunden sind. Die KI-Agenten sammeln und konsolidieren die Daten in Wissensdatenbanken, sodass sie Informationen aus verschiedenen Quellen und Kanälen abgleichen können, um Muster für Anwendungen zu finden, die von Sicherheitsbedrohungen und Codeprüfung bis hin zur Betrugserkennung reichen.
Agentische KI für regulierte Branchen
Im öffentlichen Sektor und in anderen regulierten Branchen gelten Auflagen hinsichtlich der Aufrechterhaltung der Sicherheit und Integrität sensibler Daten, was zu einer Nachfrage nach KI-Lösungen führt, die innerhalb der eigenen Infrastruktur einer Behörde eingesetzt werden können, um sicherzustellen, dass kritische Daten geschützt und nur für autorisiertes Personal zugänglich sind.
Die französische Verwaltung verarbeitet jährlich über 100 Millionen Dokumente, um maßgeschneiderte Antworten auf Bürgeranfragen zu geben. Dieser Prozess erfordert von Beschäftigten im öffentlichen Dienst, mit sich ändernden Vorschriften Schritt zu halten, auf Genauigkeit zu achten und spezifische Rechtsreferenzen zu zitieren, die für jede Anfrage relevant sind.
Damit öffentliche Dienste effizient funktionieren können, müssen diese Fachkräfte schnelle und zuverlässige Antworten in ihren Fachgebieten liefern, aber auch in der Lage sein, riesige Mengen an Rechtsdokumentation in Echtzeit zu verarbeiten und jederzeit die Vertraulichkeit der Daten, die Sicherheit und die Einhaltung der Europäischen KI-Verordnung zu gewährleisten.
Um die Herausforderungen der Daten- und Dokumentenverarbeitung zu bewältigen, mit denen das französische Wirtschafts- und Finanzministerium und das Verteidigungsministerium konfrontiert waren, entschied sich das ThinkDeep-Team für die NVIDIA AI Plattform. Die modulare, flexible Plattform mit einer NVIDIA H100 Tensor Core GPU, NVIDIA H200 Tensor Core GPUs und NVIDIA AI Enterprise Software, einschließlich NVIDIA NIM™ Microservices wie NVIDIA NeMo™ Retriever, NVIDIA Llama Nemotron Modellen und NVIDIA NeMo Guardrails, wurde zur Entwicklung von DeepBrain, einer agentischen KI-Lösung, verwendet.
„Das Wissen und die Kompetenz von ThinkDeep AI waren entscheidend für die Bereitstellung und Skalierung unserer generativen KI-Plattform“, sagte Thomas Binder, Leiter der KI-Abteilung bei der französischen Generaldirektion für öffentliche Finanzen.“
Frankreichs öffentlicher Agent: das Multi-Agenten-System DeepBrain
DeepBrain ermöglicht fachspezifische KI-Agenten, die in der Lage sind, sich mit riesigen Datenmengen aus verschiedenen Quellen zu verbinden und zu interagieren, um Informationen zu extrahieren und zu analysieren und relevante Muster zu finden. Der einzigartige Ansatz der Datenvertraulichkeit des DeepBrain-Agenten garantiert, dass die Daten jederzeit in der Kundeninfrastruktur bleiben, um ein Höchstmaß an Sicherheit und Vertraulichkeit zu gewährleisten.
DeepBrain stellt Benutzern einen eigenen Betrugserkennungsagenten oder einen Agenten für die Verarbeitung von Rechtsdokumenten zur Verfügung, der Fachwissen aus der gesamten französischen Rechtsdokumentation anwendet. Als Multi-Agenten-System können diese Agenten miteinander interagieren, um komplexe Workflows zu realisieren oder domänenübergreifende Abfragen zu beantworten.
ThinkDeep gewährleistet Höchstleistung durch den Einsatz fortschrittlicher NVIDIA-Technologien, einschließlich NIM für die Integration, das Packaging und die Bereitstellung der neuesten großen Sprachmodelle (LLMs) vor Ort und NVIDIA Dynamo zur Optimierung der Inferenzgeschwindigkeit für hochmoderne Reasoning-Modelle. ThinkDeep verwendete das NeMo-Framework auch, um LLMs und Vision-Language-Modelle (VLMs) nahtlos in seine bestehende Infrastruktur zu integrieren.
Um den sicheren und verantwortungsvollen Einsatz dieser leistungsstarken KI-Agenten zu gewährleisten, hat ThinkDeep robuste Schutzmaßnahmen mit dem NVIDIA NeMo Guardrails-Toolkit implementiert. Die Schutzmaßnahmen bieten wesentlichen Schutz gegen potenzielle Risiken wie voreingenommene oder schädliche Ergebnisse und helfen ihnen, die höchsten Standards der ethischen KI-Praxis einzuhalten.
Um die Datensicherheit und Vertraulichkeit zu gewährleisten, entschied sich das Ministerium für Wirtschaft und Finanzen für NVIDIA als Anbieter einer On-Premises-Infrastrukturlösung. Die NVIDIA DGX™ Plattform ermöglicht dem Ministerium Zugriff auf die GPUs, die erforderlich sind, um täglich Millionen von Nutzenden mit den neuesten Modellen zu bedienen.
KI-Agenten sparen der französischen Regierung Zeit und Geld
Zu den Vorteilen von DeepBrain für die französische Regierung gehören eine schnellere Dokumentenverarbeitung, Kosteneinsparungen, Produktivitätszuwächse und Energieeinsparungen.
- Kunden waren in der Lage, den Dokumentenabrufprozess zu automatisieren und den Prozess von zwei Tagen auf zwei Minuten zu verkürzen.
- Die Implementierung war mit nur einer Woche für die Einrichtung einer DeepBrain-Instanz und die Konfiguration von Konnektoren mit geringem Aufwand verbunden.
- Die Produktivität stieg mit einer Einsparung von 1.000 Stunden pro Monat für eine typische Bereitstellung für 100 User.
- Das Finanzministerium hat 2 Millionen Euro eingespart, indem es DeepBrain in großem Maßstab für 10.000 Mitarbeitende bereitgestellt hat.
- Durch die Kontrolle der Modelle und Infrastruktur optimierte das Ministerium das Energiemanagement und senkte die Energiemanagement- und Umweltkosten.
DeepBrain hat die Analyse von juristischen Dokumenten für öffentliche Bedienstete erheblich beschleunigt. Zuvor dauerte es bis zu zwei Tage, um relevante Informationen zu finden – jetzt dauert es nur zwei Minuten, was schnellere Reaktionszeiten ermöglicht und Millionen von Euro einspart, sowohl bei den Betriebskosten als auch durch die schnellere und frühere Erkennung potenziellen Betrugs.
Die DeepBrain-Graph-Methodik ermöglicht eine mühelose Echtzeit-Suche in Millionen von Dateien und Beziehungen und liefert verlässliche und präzise Antworten. Gleichzeitig erstellt es maßgeschneiderte, fachspezifische Wissensdatenbanken, die an individuelle Anwendungsfälle und Benutzer angepasst sind.
Seit der Einführung von DeepBrain hat ThinkDeep einen Anstieg des Kundeninteresses verzeichnet, insbesondere im Bereich der souveränen KI. Die erhöhte Nachfrage umfasst eine Vielzahl von Branchen, wie das Finanzwesen, den öffentlichen Sektor, die Luft- und Raumfahrt und die Energiewirtschaft. Die überlegenen KI-Funktionen von DeepBrain sprechen diese Sektoren aufgrund ihres Bedarfs an Datensicherheit, Kontrolle und Einhaltung lokaler Vorschriften an.
Ergebnisse
Blick nach vorn
Die Welt wird zunehmend datengesteuert, und die bahnbrechende Technologie von DeepBrain AI wird eine entscheidende Rolle bei der Gestaltung der Zukunft der künstlichen Intelligenz und ihrer Auswirkungen auf die Gesellschaft spielen.
Die Zusammenarbeit zwischen ThinkDeep und NVIDIA hat sich als sehr erfolgreiches Unterfangen erwiesen, das zu Fortschritten in der KI-Forschung und -Entwicklung geführt hat. Die Partnerschaft wird sich weiterentwickeln, insbesondere da ThinkDeep tiefer in den Bereich der Multi-Agenten-KI-Reasoning-Systeme eintaucht.
Die potenziellen Anwendungen von Multi-Agenten-Systemen sind riesig und weitreichend und umfassen Branchen wie das Finanzwesen, das Gesundheitswesen und die Logistik. Durch die Nutzung kollektiver Intelligenz ermöglicht DeepBrain AI Unternehmen und Organisationen, fundiertere Entscheidungen zu treffen, ihre Betriebsabläufe zu optimieren und Innovationen voranzutreiben.
Sind Sie bereit?
Nehmen Sie Kontakt mit uns auf, um mehr über NVIDIA Lösungen für den globalen öffentlichen Sektor zu erfahren.