NVIDIA CUDA-X
GPU로 가속화된 AI를 위한 마이크로서비스 및 라이브러리
다양한 분야에서 개발자, 연구자, 발명가들이 GPU 프로그래밍을 사용하여 애플리케이션을 가속화하고 있습니다. 이러한 애플리케이션을 개발하기 위해서는 고도로 최적화된 도메인별 마이크로서비스 및 라이브러리를 갖추고 있는 견고한 프로그래밍 환경이 요구됩니다. NVIDIA CUDA-X는 CUDA®를 기반으로 구축된 마이크로서비스, 라이브러리, 도구 및 기술 모음으로, 데이터 처리, AI, 고성능 컴퓨팅(HPC) 분야에서 탁월한 성능을 제공하며 최적화된 애플리케이션 개발을 지원합니다.
CUDA-X 마이크로서비스
NVIDIA의 CUDA 전문가들이 만든 CUDA-X 마이크로서비스는 개발자 도구와 GPU 가속 라이브러리, 클라우드 API를 활용해 API 형태로 제공되는 기술입니다.. 데이터 처리, AI, HPC 애플리케이션을 손쉽게 통합하고, 맞춤 설정하며 배포할 수 있습니다.
CUDA-X 마이크로서비스에서는 맞춤형 음성 및 번역용 AI를 위한 NVIDIA® Riva, 고해상도 기후 및 날씨 시뮬레이션에 대한 NVIDIA Earth-2를 포함합니다, 라우팅 최적화를 위한 NVIDIA cuOpt™와 엔터프라이즈용 반응형 검색 증강 생성(RAG) 기능에 대한 NVIDIA NeMo™ Retriever.
CUDA-X 라이브러리
CUDA-X 라이브러리는 데이터 처리, AI, HPC 전반에서 NVIDIA의 가속 플랫폼의 도입을 간소화하기 위해 CUDA 기반으로 구축되었습니다. 400개가 넘는 라이브러리를 활용해, 개발자는 CUDA 플랫폼으로 PC, 워크스테이션, 클라우드, 슈퍼컴퓨터 등 다양한 환경에서 애플리케이션을 손쉽게 구축하고, 최적화하며, 배포와 확장까지 할 수 있습니다.
-
CUDA-X 데이터 처리
-
CUDA-X AI
-
CUDA-X HPC
혁신적인 AI 애플리케이션을 만들려면, 해마다 제타바이트 단위로 늘어나는 방대한 데이터 속에서 각 기업이 보유한 고유한 데이터를 활용해 모델을 학습시켜야 합니다. 이처럼 방대한 연산 문제를 해결할 수 있도록, CUDA-X 데이터 처리 플랫폼은 이미지, 텍스트, 테이블 형식 데이터를 빠르게 처리하고 확장할 수 있게 돕는 가속 라이브러리 제품군으로 설계됐습니다.
최신 AI는 많은 산업을 혁신시킬 수 있는 잠재력을 지니고 있지만 그런 잠재력을 활용하는 것이 쉬운 일은 아닙니다. AI 애플리케이션을 개발하려면 데이터 처리부터 기능 구현, 엔지니어링, 머신 러닝, 검증, 배포에 이르기까지 여러 단계를 거쳐야 하며, 각 단계마다 방대한 데이터를 다루고 대규모 연산 작업을 수행해야 합니다. CUDA-X AI는 이런 작업들을 효율적으로 처리할 수 있도록 필요한 도구와 기술을 제공합니다.
HPC 애플리케이션은 유체 역학에서 날씨 시뮬레이션에 이르기까지 많은 영역에서 활용할 수 있습니다. CUDA-X HPC는 개발자가 세상에서 가장 복잡한 문제를 해결할 수 있도록 돕는 라이브러리, 도구, 컴파일러, API 모음입니다. CUDA-X HPC는 고성능 컴퓨팅(HPC)에 필수적인 고도로 튜닝된 커널이 포함됩니다. 선형대수, 병렬 알고리즘, 신호 및 이미지 처리를 위해 GPU 가속 라이브러리는 계산 물리학, 화학, 분자 역학, 지진 탐사 같은 분야의 고성능 연산 애플리케이션을 구축할 수 있는 기반을 제공합니다.
장소에 상관 없이 사용 가능
CUDA-X는 다양한 분야에서 활용될 수 있습니다. 소프트웨어 가속 라이브러리는 AWS, Microsoft Azure, Google Cloud를 포함한 핵심적인 클라우드 플랫폼의 일부입니다. NGC에서는 개별로 다운로드하거나, 컨테이너형 소프트웨어 스택을 사용해 스택 전체를 무료로 이용할 수 있습니다. CUDA-X 라이브러리는 데스크톱, 워크스테이션, 서버, 슈퍼컴퓨터, 클라우드, 사물인터넷(IoT) 기기 등 NVIDIA GPU가 있는 어떤 환경에서도 자유롭게 배포할 수 있습니다.
백만 명이 넘는 개발자들이 CUDA-X를 활용해 생산성을 높이고, 꾸준한 애플리케이션 성능 향상이라는 이점을 누리고 있습니다. 새로운 애플리케이션을 만들거나 기존 애플리케이션의 속도를 높이려 할 때마다, CUDA-X는 가장 효율적이고 효과적인 방법을 제시합니다.