데이터 처리 솔루션
데이터 처리
AI를 위한 데이터 엔진.
개요
에이전틱 AI를 위한 데이터 기반
엔터프라이즈를 혁신하기 위해 AI 에이전트는 데이터에 지속적으로 액세스해야 하며, 이는 에이전틱 추론 루프를 위해 설계되지 않은 데이터 인프라에 부담을 가하고 있습니다.
기업은 NVIDIA 인프라로 기존 데이터 스택을 활용하면서 AI가 요구하는 새로운 데이터 규모와 속도에 대응할 수 있습니다. 분석, 실시간 스트리밍, 배치 및 온라인 트랜잭션 처리(OLTP) 같은 CPU 기반 데이터 처리에는 NVIDIA Vera가 에이전틱 워크로드에 필요한 코어당 성능과 고대역폭 메모리를 제공합니다. 대규모로 최고의 속도를 구현하기 위해 NVIDIA CUDA-X™ 라이브러리는 가장 널리 사용되는 데이터 엔진을 GPU에서 가속하여, 에이전트가 기업 전반의 표에 담긴 정형 데이터와 PDF, 이메일, 이미지, 비디오 형태의 비정형 데이터에 필요할 때 액세스하도록 합니다.
장점
AI를 위한 데이터 혁신
대규모 성능 향상
가속 컴퓨팅 플랫폼은 GPU 기반 데이터 처리를 최대 20배 가속하고, NVIDIA Vera는 고성능 CPU 플랫폼을 제공하여 기업이 새로운 사용 사례로 더 빠르게 행동하도록 합니다.
대폭 비용 절감
NVIDIA 최적화 스택에서 실행함으로써 조직은 비용을 80% 이상 절감했으며, 데이터 인프라가 더 적은 비용으로 더 많은 것을 수행할 수 있도록 지원합니다.
쉬운 도입
아파치 스파크, OpenSearch 등을 포함한 세계에서 가장 인기 있는 분석 및 벡터 데이터 엔진에는 도입을 간단하게 할 수 있도록 드롭인 가속기가 있습니다.
AI 준비 데이터
NVIDIA cuVS를 통해 PDF, 메시지 및 이메일에 저장된 엔터프라이즈 데이터의 90%에 대한 컨텍스트와 NVIDIA cuDF를 통해 몇 분 만에 처리되는 테라바이트급 정형 데이터의 그라운드 트루스를 통해 데이터는 에이전틱 AI를 사용할 준비가 되었습니다.
제품군
NVIDIA의 데이터 처리 가속화
NVIDIA 라이브러리, 도구 및 모델은 GPU 가속으로 데이터 처리 에코시스템을 지원하여 엔터프라이즈 규모의 데이터 워크로드와 파이프라인을 더 빠르게 실행합니다.
채택 업체
데이터 처리 에코시스템
분석 SQL 쿼리부터 벡터 검색에 이르기까지, 조직들은 AI 지원 파이프라인을 가속화하기 위해 NVIDIA의 가속 컴퓨팅 플랫폼을 기존 데이터 플랫폼에 도입하고 있습니다.
NVIDIA Vera의 데이터 처리
에이전틱 AI 워크로드를 대규모로 실행하는 기업의 경우 AI 에이전트는 구조화된 엔터프라이즈 데이터에 대한 동시 지속적인 소규모 쿼리를 크게 증가시킵니다. NVIDIA Vera는 1.2 TB/s의 메모리 대역폭과 고속 온칩 패브릭을 갖추고 있으며, 로드 하에서도 코어당 성능, 높은 처리량 및 예측 가능성을 제공하여 쿼리 볼륨과 속도의 증가를 지원합니다. Starburst 분석 엔진의 경우 NVIDIA Vera는 x86 대비 3배 더 빠르게 쿼리를 처리하여 쿼리 실행을 분 단위에서 초 단위로 단축했으며, Redpanda 스트리밍 엔진은 x86 대비 p99에서 6배의 성능 향상을 보여 데이터 엔진의 신뢰성을 높였습니다.
공개 예정.
리소스
데이터 처리의 최신 소식
-
블로그
-
세션
-
비디오
-
하드웨어 데이터시트
