Globaler öffentlicher Sektor
Die souveränen KI-Agenten von ThinkDeep helfen bei der Automatisierung öffentlicher Dienste für die französischen Regierung
Ziel
Um die französische Regierung bei der Verbesserung der Effizienz ihrer öffentlichen Dienste zu unterstützen, hat ThinkDeep AI, ein führendes KI-Technologieunternehmen, eine Multi-Agenten-Assistentenplattform namens DeepBrain entwickelt. Auf dieser Plattform können öffentliche Bedienstete ihre eigenen persönlichen Assistenten entwickeln, die mit einer Vielzahl von Datenquellen verbunden sind. Die KI-Agenten sammeln und konsolidieren die Daten in Wissensdatenbanken, sodass sie Informationen aus verschiedenen Quellen und Kanälen abgleichen können, um Muster für Anwendungen zu finden, die von Sicherheitsbedrohungen und Codeprüfung bis hin zur Betrugserkennung reichen.
ThinkDeep und NVIDIA haben gemeinsam DeepBrain-KI-Agenten entwickelt, die in der Lage sind, Informationen aus Millionen von PDF-Dokumenten, gescannten Bildern, Schemata und Videos zu verarbeiten.
Agentische KI für souveräne KI-Lösungen
Souveräne KI bezieht sich auf die Fähigkeit eines Landes, künstliche Intelligenz mit seiner inländischen Infrastruktur, lokalen Datensätzen, qualifizierten Arbeitskräften und Geschäftsökosystemen zu entwickeln und bereitzustellen. Im öffentlichen Sektor bedeutet souveräne KI oft, die Sicherheit und Integrität sensibler Daten zu wahren, was eine Nachfrage nach KI-Lösungen schafft, die innerhalb der eigenen Infrastruktur einer Regierung arbeiten können und sicherstellen, dass kritische Daten geschützt und nur für autorisiertes Personal zugänglich bleiben.
Die französische Verwaltung verarbeitet jährlich über 100 Millionen Dokumente, um maßgeschneiderte Antworten auf Bürgeranfragen zu geben. Dieser Prozess erfordert von öffentlichen Bediensteten, mit sich ändernden Vorschriften Schritt zu halten, die Genauigkeit aufrechtzuerhalten und spezifische Rechtsreferenzen zu zitieren, die für jede Anfrage relevant sind.
Damit öffentliche Dienste effizient funktionieren können, müssen diese Fachkräfte schnelle und zuverlässige Antworten in ihren Fachgebieten liefern, aber auch in der Lage sein, riesige Mengen an Rechtsdokumentation in Echtzeit zu verarbeiten und jederzeit die Vertraulichkeit der Daten, die Sicherheit und die Einhaltung der Europäischen KI-Verordnung zu gewährleisten.
Die Implementierung und Aufrechterhaltung effektiver souveräner KI-Lösungen erfordert erhebliche Rechenleistung. Um die Probleme der Daten- und Dokumentenverarbeitung zu lösen, mit denen das französische Wirtschafts- und Finanzministerium und das Verteidigungsministerium konfrontiert sind, wandte sich das ThinkDeep-Team an die NVIDIA AI Plattform. Die modulare, flexible Plattform mit einer NVIDIA H100 Tensor Core GPU, NVIDIA H200 Tensor Core GPUs und NVIDIA AI Enterprise Software, einschließlich NVIDIA NIM™ Microservices wie NVIDIA NeMo™ Retriever, NVIDIA Llama Nemotron Modellen und NVIDIA NeMo Guardrails, wurde verwendet, um DeepBrain, eine agentenbasierte KI-Lösung, zu entwickeln.
„Das Wissen und die Expertise von ThinkDeep AI waren entscheidend für die Bereitstellung und Skalierung unserer generativen KI-Plattform“, sagte Thomas Binder, Leiter der KI-Abteilung bei der französischen Generaldirektion für öffentliche Finanzen.
Frankreichs öffentlicher Agent: das Multi-Agenten-System DeepBrain
DeepBrain ermöglicht fachspezifische KI-Agenten, die in der Lage sind, sich mit riesigen Datenmengen aus verschiedenen Quellen zu verbinden und zu interagieren, um Informationen zu extrahieren und zu analysieren und relevante Muster zu finden. Der einzigartige Ansatz der Datenvertraulichkeit des DeepBrain-Agenten garantiert, dass die Daten jederzeit in der Kundeninfrastruktur bleiben, um ein Höchstmaß an Sicherheit und Vertraulichkeit zu gewährleisten.
DeepBrain stellt Benutzern einen eigenen Betrugserkennungsagenten oder einen Agenten für die Verarbeitung von Rechtsdokumenten zur Verfügung, der Fachwissen aus der gesamten französischen Rechtsdokumentation anwendet. Als Multi-Agenten-System können diese Agenten miteinander interagieren, um komplexe Workflows zu realisieren oder domänenübergreifende Abfragen zu beantworten.
ThinkDeep gewährleistet Höchstleistung durch den Einsatz fortschrittlicher NVIDIA-Technologien, einschließlich NIM für die Integration, das Packaging und die Bereitstellung der neuesten großen Sprachmodelle (LLMs) vor Ort und NVIDIA Dynamo zur Optimierung der Inferenzgeschwindigkeit für hochmoderne Reasoning-Modelle. ThinkDeep verwendete das NeMo-Framework auch, um LLMs und Vision-Language-Modelle (VLMs) nahtlos in seine bestehende Infrastruktur zu integrieren.
Um den sicheren und verantwortungsvollen Einsatz dieser leistungsstarken KI-Agenten zu gewährleisten, hat ThinkDeep robuste Schutzmaßnahmen mit dem NVIDIA NeMo Guardrails-Toolkit implementiert. Die Schutzmaßnahmen bieten wesentlichen Schutz gegen potenzielle Risiken wie voreingenommene oder schädliche Ergebnisse und helfen ihnen, die höchsten Standards der ethischen KI-Praxis einzuhalten.
Um Datensouveränität und Vertraulichkeit zu gewährleisten, entschied sich das Wirtschafts- und Finanzministerium für eine souveräne lokale Infrastrukturlösung von NVIDIA. Die NVIDIA DGX™ Plattform ermöglicht dem Ministerium Zugriff auf die GPUs, die erforderlich sind, um täglich Millionen von Nutzenden mit den neuesten Modellen zu bedienen.
KI-Agenten sparen der französischen Regierung Zeit und Geld
Zu den Vorteilen von DeepBrain für die französische Regierung gehören eine schnellere Dokumentenverarbeitung, Kosteneinsparungen, Produktivitätszuwächse und Energieeinsparungen.
- Kunden waren in der Lage, den Dokumentenabrufprozess zu automatisieren und den Prozess von zwei Tagen auf zwei Minuten zu verkürzen.
- Die Implementierung war mit nur einer Woche für die Einrichtung einer DeepBrain-Instanz und die Konfiguration von Konnektoren mit geringem Aufwand verbunden.
- Die Produktivität stieg mit einer Einsparung von 1.000 Stunden pro Monat für eine typische Bereitstellung für 100 User.
- Das Finanzministerium hat 2 Millionen Euro eingespart, indem es DeepBrain in großem Maßstab für 10.000 Mitarbeitende bereitgestellt hat.
- Durch die Kontrolle der Modelle und Infrastruktur optimierte das Ministerium das Energiemanagement und senkte die Energiemanagement- und Umweltkosten.
DeepBrain hat die Analyse von juristischen Dokumenten für öffentliche Bedienstete erheblich beschleunigt. Zuvor dauerte es bis zu zwei Tage, um relevante Informationen zu finden – jetzt dauert es nur zwei Minuten, was schnellere Reaktionszeiten ermöglicht und Millionen von Euro einspart, sowohl bei den Betriebskosten als auch durch die schnellere und frühere Erkennung potenziellen Betrugs.
Die DeepBrain-Graph-Methodik ermöglicht eine mühelose Echtzeit-Suche in Millionen von Dateien und Beziehungen und liefert verlässliche und präzise Antworten. Gleichzeitig erstellt es maßgeschneiderte, fachspezifische Wissensdatenbanken, die an individuelle Anwendungsfälle und Benutzer angepasst sind.
Seit der Einführung von DeepBrain hat ThinkDeep einen Anstieg des Kundeninteresses verzeichnet, insbesondere im Bereich der souveränen KI. Die erhöhte Nachfrage umfasst eine Vielzahl von Branchen, wie das Finanzwesen, den öffentlichen Sektor, die Luft- und Raumfahrt und die Energiewirtschaft. Die überlegenen KI-Funktionen von DeepBrain sprechen diese Sektoren aufgrund ihres Bedarfs an Datensicherheit, Kontrolle und Einhaltung lokaler Vorschriften an.
Ergebnisse
Blick nach vorn
Die Welt wird zunehmend datengesteuert, und die bahnbrechende Technologie von DeepBrain AI wird eine entscheidende Rolle bei der Gestaltung der Zukunft der künstlichen Intelligenz und ihrer Auswirkungen auf die Gesellschaft spielen.
Die Zusammenarbeit zwischen ThinkDeep und NVIDIA hat sich als sehr erfolgreiches Unterfangen erwiesen, das zu Fortschritten in der KI-Forschung und -Entwicklung geführt hat. Die Partnerschaft wird sich weiterentwickeln, insbesondere da ThinkDeep tiefer in den Bereich der Multi-Agenten-KI-Reasoning-Systeme eintaucht.
Die potenziellen Anwendungen von Multi-Agenten-Systemen sind riesig und weitreichend und umfassen Branchen wie das Finanzwesen, das Gesundheitswesen und die Logistik. Durch die Nutzung kollektiver Intelligenz ermöglicht DeepBrain AI Unternehmen und Organisationen, fundiertere Entscheidungen zu treffen, ihre Betriebsabläufe zu optimieren und Innovationen voranzutreiben.
Sind Sie bereit?
Nehmen Sie Kontakt mit uns auf, um mehr über NVIDIA Lösungen für den globalen öffentlichen Sektor zu erfahren.