全球公共部門

ThinkDeep 的主權 AI 代理程式協助法國政府自動化公共服務

目標

為了協助法國政府提高公共服務的效率,主權 AI 技術公司 ThinkDeep AI 開發了一款名為 DeepBrain 的多重代理 AI 助理平台,讓公務員能打造自己專屬、連結各種資料來源的個人助理。AI 代理可收集並整合知識庫中的資料,交叉比對不同來源與管道的資訊,並從資安威脅、程式碼審查到詐欺偵測等應用程式中識別特定模式。

ThinkDeep 與 NVIDIA 聯手開發 DeepBrain AI 代理程式,能夠處理數百萬個 PDF 文件、掃描影像、架構圖和影片資訊。

客戶

法國公部門和行政單位 (經濟財政部、國防部)

合作夥伴

ThinkDeep AI

使用案例

文件處理
對話式 AI
生成式 AI / 大型語言模型 (LLM)

產品

NVIDIA AI Enterprise
NVIDIA NIM
NVIDIA NeMo Curator
NVIDIA NeMo Retriever
NVIDIA NeMo Guardrails
NVIDIA DGX H100
NVIDIA Jetson Orin

代理型 AI 用於主權 AI 解決方案

主權 AI 是指一個國家能夠運用國內基礎設施、在地資料集、技術人才和商業生態系統,自主開發並部署 AI 的能力。對公部門而言,主權 AI 通常必須維護敏感資料的安全性與完整性,因此需要能在政府自身基礎架構內運作的 AI 解決方案,以確保關鍵資料受到保護,且僅限授權人員存取。

法國政府每年處理超過 1 億份文件,能提供量身打造的回應,以滿足公民的詢問需求。此流程需要公務員掌握瞬息萬變的法規、保持準確度,並引用與各項請求相關的特定法律。

為了讓公共服務有效運作,這些專員必須在專業領域提供快速可靠的答案,同時即時處理大量法律文件,以便時時確保資料的保密性、安全性,並遵守歐洲 AI 法案。

實施和維護有效的主權 AI 解決方案,有賴強大的運算能力。為了解決法國經濟財政部和國防部所面臨的資料及文件處理問題,ThinkDeep 團隊轉而採用 NVIDIA AI 平台。採用 NVIDIA H100 Tensor 核心 GPU、NVIDIA H200 Tensor 核心 GPU、NVIDIA AI Enterprise 軟體 (包括 NVIDIA NeMo™ Retriever、NVIDIA Llama Nemotron 模型與 NVIDIA NeMo Guardrails 等 NVIDIA NIM™ 微服務) 的模組化靈活平台,藉此開發代理型 AI 解決方案 DeepBrain。

法國公共財政總署 AI 主管 Thomas Binder 表示:「ThinkDeep AI 的知識與專業背景,在部署和擴充我們的生成式 AI 平台方面發揮極大影響力。」

法國公共服務代理程式:DeepBrain 多重代理系統

DeepBrain 可讓特定領域的 AI 代理程式與不同來源的大量資料連結並互動,從中檢索和分析資訊,進而找出相關模式。DeepBrain 代理程式的獨特資料保密機制,可確保資料始終存放於客戶基礎架構中,並享有最高等級的安全性與機密性。

藉助 DeepBrain,使用者可利用彙整自所有法國法律文件的領域知識,擁有自己的詐欺檢測代理程式或法律文件處理代理程式。這些代理程式源於多重代理系統,可以彼此互動,實現複雜的工作流程或回應跨領域查詢。

ThinkDeep 採用先進的 NVIDIA 技術,可確實達成最高效能,包括用於在本地整合、封裝及部署最新大型語言模型 (LLM) 的 NIM,以及將最先進推理模型推論速度最佳化的 NVIDIA Dynamo。ThinkDeep 另採用 NeMo 架構,將 LLM 和視覺語言模型 (VLM) 順暢整合至現有的基礎架構。

為了確保安全且負責任地使用這些強大 AI 代理程式,ThinkDeep 採用 NVIDIA NeMo Guardrails 工具套件,藉此實施健全的防護機制。防護機制提供必要的保障,能防範有偏差或有害輸出等潛在風險,協助維持 AI 實務的最高道德標準。

為了確保資料主權和機密性,經濟財政部選擇 NVIDIA 作為其主權型在地部署基礎架構的解決方案提供者。NVIDIA DGX™ 平台可讓該部門取得最新模型,為數百萬名日常使用者提供服務所需的 GPU。

AI 代理程式為法國政府省下時間和金錢

DeepBrain 為法國政府帶來的優勢如下:加快文件處理、節省成本、提升生產力,以及節約能源。

  • 客戶能夠把文件檢索流程自動化,將處理時間從兩天縮短至兩分鐘。
  • 實施作業毫不費力,只需一週時間,即可設定 DeepBrain 執行個體並配置連接器。
  • 100 位使用者部署後,每月可省下 1,000 小時,生產力也因此提升。
  • 財政部為 10,000 名員工大規模部署 DeepBrain 之後,節省了 2 百萬歐元。
  • 控制模型和基礎架構後,財政部得以將能源管理最佳化,並降低能源管理和環境成本。

DeepBrain 大幅加速公務員法律文件的分析速度。原本需要長達兩天才能找到的相關資訊,現在只需兩分鐘即可完成,讓回應速度大幅提升,並在營運成本與及早偵測潛在詐騙活動上節省了數百萬歐元。

DeepBrain Graph 方法學能即時、簡易搜尋數百萬個檔案和關係,並提供來源精確的答案。此外,該技術也能建置自訂的特定領域知識庫,以滿足個別使用案例與使用者需求。

自 DeepBrain 產品推出以來,ThinkDeep 在市場上便獲得顯著的關注與客戶興趣,尤其在主權 AI 領域。增長的需求涵蓋多個產業,包括金融、公部門、航太與能源業。DeepBrain 的主權 AI 能力之所以受到這些產業的青睞,可能是因為它們對資料安全、控管及遵守當地法規的需求特別高。

結果

  • 法國財政部將 DeepBrain 大規模部署至 10,000 名員工,為法國公部門節省了 200 萬歐元支出。
  • 典型部署至 100 名使用者後,每月可節省 1,000 小時的工時。
  • 將文件檢索流程從兩天縮短至兩分鐘。

展望未來

隨著全球日益以資料為核心,DeepBrain AI 的突破性技術勢必在塑造 AI 未來及其對社會的影響方面發揮關鍵作用。

事實證明,ThinkDeep 與 NVIDIA 的合作非常成功,進而推動 AI 研究與開發進展。隨著 ThinkDeep 更深入多重代理 AI 推理系統領域,這項合作關係將持續演進。

多重代理系統的潛在應用範圍廣泛,涵蓋金融、醫療與物流等各大產業。透過集體智慧的運用,DeepBrain AI 將協助各企業與組織做出更明智的決策、最佳化營運流程,並推動創新發展。

準備好開始了嗎?

若想深入瞭解 NVIDIA 適用於全球公共部門的解決方案,歡迎與我們聯絡。