글로벌 공공 부문
ThinkDeep의 소버린 AI 에이전트, 프랑스 정부의 공공 서비스 자동화 지원
목표
프랑스 정부의 공공 서비스 효율성 향상을 지원하기 위해, 소버린 AI 기술 기업인 ThinkDeep AI는 다양한 데이터 소스와 연결되는 개인 비서를 공무원이 직접 구축할 수 있는 멀티 에이전트 기반 플랫폼인 DeepBrain을 개발했습니다. AI 에이전트는 지식 기반의 데이터를 수집하고 통합하여, 다양한 소스와 채널의 정보를 상호 참조하여, 보안 위협 및 코드 검토부터 사기 감지에 이르는 다양한 응용 분야의 패턴을 찾습니다.
ThinkDeep과 NVIDIA는 수백만 개의 PDF 문서, 스캔 이미지, 스키마, 영상에서 정보를 처리할 수 있는 DeepBrain AI 에이전트를 개발하기 위해 협력했습니다.
소버린 AI 솔루션을 위한 에이전틱 AI
소버린 AI는 자국의 인프라, 로컬 데이터셋, 전문 인력, 비즈니스 생태계를 기반으로 인공지능을 개발하고 활용할 수 있는 국가의 역량을 의미합니다. 공공 부문에서 소버린 AI는 민감한 데이터의 보안성과 무결성을 유지하는 것을 의미하며, 이를 위해 정부 자체 인프라 내에서 운영 가능한 AI 솔루션에 대한 필요성이 커지고 있습니다. 이를 통해 주요 데이터는 보호되며, 인가된 인원만 접근할 수 있도록 보장됩니다.
프랑스 행정부는 매년 1억 개 이상의 문서를 처리하여 시민들의 문의에 맞춤형 응답을 제공합니다. 이 프로세스에서는 공무원들이 규정 변화에 발맞추고, 정확도를 유지하며, 각 요청과 관련된 특정 법적 참조를 인용해야 합니다.
공공 서비스가 효율적으로 작동하려면, 담당 공무원은 자신의 전문 분야에서 신속하고 신뢰할 수 있는 답변을 제공해야 할 뿐만 아니라, 방대한 양의 법률 문서를 실시간으로 처리하면서도 항상 데이터 기밀성, 보안, 그리고 유럽 AI 법령에 대한 준수까지 철저히 보장해야 합니다.
효과적인 소버린 AI 솔루션을 구현하고 유지하려면 막대한 컴퓨팅 성능이 필요합니다. 프랑스 경제재정부와 국방부가 직면한 데이터 및 문서 처리 문제를 해결하기 위해, ThinkDeep 팀은 NVIDIA AI 플랫폼을 활용했습니다. NVIDIA H100 Tensor 코어 GPU, NVIDIA H200 Tensor 코어 GPU, NVIDIA NeMo™ Retriever, NVIDIA Llama Nemotron 모델, NVIDIA NeMo Guardrails와 같은 NVIDIA NIM™ 마이크로서비스를 포함한 NVIDIA AI Enterprise 소프트웨어를 갖춘 모듈형 유연한 플랫폼이 에이전틱 AI 솔루션인 DeepBrain을 개발하는 데 사용되었습니다.
프랑스 공공재정 총국 AI 책임자인 Thomas Binder는 이렇게 말했습니다. “ThinkDeep AI 지식과 전문 지식은 생성형 AI 플랫폼을 배포하고 확장하는 데 중요한 역할을 했습니다.”
프랑스의 공공 에이전트: DeepBrain 멀티 에이전트 시스템
DeepBrain은 다양한 소스의 방대한 양의 데이터를 연결하고 상호작용하여 정보를 추출하고 분석하여 관련 패턴을 찾을 수 있는 도메인별 AI 에이전트를 가능하게 합니다. DeepBrain 에이전트의 독보적인 데이터 기밀성 접근 방식은 데이터가 고객 인프라에 항상 유지되도록 보장하여, 최고 수준의 보안 및 기밀성을 보장합니다.
DeepBrain을 통해 사용자는 프랑스 법률 문서에서 수집된 지식을 활용하여 사기 감지 에이전트 또는 법률 문서 처리를 위한 에이전트를 확보할 수 있습니다. 멀티 에이전트 시스템으로, 이러한 에이전트는 서로 상호작용하여 복잡한 워크플로우를 구현하거나 도메인 간 쿼리에 답변할 수 있습니다.
ThinkDeep은 최신 거대 언어 모델(LLM)의 온프레미스 통합, 패키징 및 배포를 위한 NIM과 NVIDIA Dynamo를 포함한 고급 NVIDIA 기술을 활용하여 최첨단 추론 모델의 추론 속도를 최적화하여 최고의 성능을 보장합니다. 또한 ThinkDeep은 NeMo 프레임워크를 사용하여 LLM과 비전 언어 모델(VLM)을 기존 인프라에 원활하게 통합합니다.
이러한 강력한 AI 에이전트를 안전하고 책임감 있게 사용하기 위해 ThinkDeep은 NVIDIA NeMo Guardrails 툴킷을 사용하여 강력한 가드레일을 구현했습니다. 가드레일은 편향되거나 유해한 출력과 같은 잠재적인 위험에 대한 필수적인 보호 장치를 제공하여, 최고 수준의 윤리적 AI 관행을 유지할 수 있도록 지원합니다.
데이터 주권과 기밀성을 보장하기 위해 경제재정부는 NVIDIA를 소버린 온프레미스 인프라 솔루션으로 선택했습니다. NVIDIA DGX™ 플랫폼을 통해 부서는 수백만 명의 일일 사용자에게 최신 모델을 제공하는 데 필요한 GPU에 액세스할 수 있습니다.
프랑스 정부의 시간과 비용 절감을 위한 AI 에이전트
프랑스 정부에 DeepBrain의 이점은 더 빠른 문서 처리, 비용 절감, 생산성 향상, 에너지 절감 등이 있습니다.
- 고객은 문서 검색 프로세스를 자동화하여 2일에서 2분으로 단축할 수 있었습니다.
- 구현은 간단한 노력으로 DeepBrain 인스턴스를 설정하고 커넥터를 구성하는 데 단 1주일밖에 걸리지 않았습니다.
- 생산성이 향상된 것은 일반적인 100명의 사용자 배포 환경에서 매월 1,000시간 절약됩니다.
- 재정부는 10,000명의 직원을 위한 DeepBrain을 대규모로 배포하여 200만 유로의 비용을 절감했습니다.
- 모델과 인프라를 제어하여 에너지 관리를 최적화하고 에너지 관리 및 환경 비용을 절감했습니다.
DeepBrain은 공무원의 법률 문서 분석 속도를 크게 가속화했습니다. 이전에는 관련 정보를 찾는 데 최대 2일이 걸렸던 것이 이제는 2분 만에 해결되어, 대응 시간을 단축하고, 운영 비용과 잠재적인 사기 행위를 더 빠르고 조기에 감지하여 수백만 유로의 비용을 절감할 수 있습니다.
DeepBrain Graph 방법론은 수백만 개의 파일과 관계를 간편하게 실시간 검색하여 정확한 소싱 답변을 제공합니다. 동시에, 개별 사용 사례와 사용자에 맞춰 맞춤형 도메인별 지식 기반을 구축합니다.
ThinkDeep은 DeepBrain 제품 출시 이후, 특히 소버린 AI 분야에서 상당한 시장 견인과 고객 관심을 경험해 왔습니다. 이러한 수요 증가는 금융, 공공 부문 기관, 항공우주, 에너지 등 다양한 산업 분야에 걸쳐 나타나고 있습니다. 데이터 보안, 통제, 그리고 자국 규제 준수가 중요한 이러한 부처의 특성상, DeepBrain의 소버린 AI 역량은 특히 매력적인 선택지로 작용했습니다.
결과
향후 전망
세계가 점점 더 데이터 중심적으로 변화하면서, DeepBrain AI의 획기적인 기술은 인공지능의 미래와 사회에 미치는 영향을 결정하는 데 중요한 역할을 할 준비를 갖추고 있습니다.
ThinkDeep과 NVIDIA 간의 협업은 매우 성공적인 노력으로 입증되었으며, AI 연구 및 개발의 발전을 이끌었습니다. 파트너십은 특히 ThinkDeep이 멀티 에이전트 AI 추론 시스템 분야에 더 깊이 들어가면서 계속 발전할 예정입니다.
멀티 에이전트 시스템의 잠재적인 응용 분야는 금융, 헬스케어, 물류 등의 산업 분야에 걸쳐 방대하고 광범위합니다. DeepBrain AI는 집단 지성을 활용하여 기업과 조직이 더 정확한 정보에 입각한 결정을 내리고, 운영을 최적화하며, 혁신을 주도할 수 있도록 지원합니다.
시작할 준비가 되셨나요?
글로벌 공공 부문을 위한 NVIDIA 솔루션에 대해 자세히 알아보려면 문의하세요.