NVIDIA NeMo를 시작하는 방법
프로덕션 환경에서 AI 에이전트를 구축, 모니터링, 최적화하는 도구와 기술을 활용하여 AI 에이전트 수명 주기를 관리하세요.
AI 모델에서 생성형 AI 인사이트로의 여정
생성형 AI를 위한 엔드투엔드 엔터프라이즈 지원 플랫폼을 경험하세요.
1. AI 모델을 체험하세요.
최적화된 프로덕션급 생성형 AI 모델을 경험하세요
고성능과 효율성을 위해 튜닝된 최고의 NVIDIA가 구축한 오픈 소스 생성형 AI 모델로 프로토타입 제작을 시작하세요. NVIDIA API 카탈로그의 AI 모델은 NVIDIA NIM™ 마이크로서비스를 사용하여 배포하고 NeMo를 사용하여 맞춤화할 수 있습니다.
2. NeMo 소프트웨어 제품군을 사용하여 AI 에이전트를 구축, 배포, 최적화합니다.
수명 주기 전반의 AI 에이전트 관리
3. AI 솔루션 구축을 빠르게 시작하세요.
NVIDIA Blueprints를 활용하여 에이전틱 AI로 빠르게 비즈니스를 전환하세요.
NVIDIA Blueprint는 NVIDIA AI 및 Omniverse 라이브러리, SDK, 마이크로서비스로 구축된 포괄적인 참조 워크플로우입니다. 각 Blueprint에는 참조 코드, 배포 도구, 맞춤화 가이드, 참조 아키텍처가 포함되어 있어, 프로토타입에서 프로덕션에 이르기까지 AI 에이전트 및 디지털 트윈과 같은 AI 솔루션의 배포를 가속화합니다.
4. 프로덕션 환경에서 실행하세요.
NVIDIA AI Enterprise를 이용한 프로덕션 환경 배포
NVIDIA AI Enterprise는 생성형 AI를 모든 기업에 도입하는 엔드투엔드 소프트웨어 플랫폼으로, 생성형 AI 파운데이션 모델을 위한 가장 빠르고 효율적인 런타임을 제공합니다. 여기에는 보안, 안정성, 관리 용이성, 지원을 통해 도입을 간소화하는 NeMo와 NVIDIA NIM이 포함되어 있습니다.
지금 바로 90일 무료 라이선스를 요청하여 생성형 AI 솔루션과 엔터프라이즈 지원을 이용하세요.
리소스
FAQ
NVIDIA NeMo는 데이터 큐레이션 및 모델 맞춤화부터 배포, 오케스트레이션, 지속적인 최적화에 이르기까지 AI 에이전트 수명주기를 관리하기 위한 모듈형 엔터프라이즈급 소프트웨어 제품군입니다. 기존 AI 시스템과 통합되며, 클라우드, 온프레미스, 하이브리드 배포를 지원하여 최신 정보를 기반으로 AI 에이전트를 지속적으로 향상시키는 데이터 플라이휠을 신속하게 확장하고 손쉽게 생성할 수 있습니다.
NeMo는 NVIDIA AI Enterprise의 일부로 제공됩니다. 전체 가격 및 라이선스 세부 정보는 여기에서 확인할 수 있습니다.
NeMo는 거대 언어 모델(LLM), 비전 언어 모델(VLM), 자동 음성 인식(ASR), 텍스트 음성 변환(TTS) 모델을 맞춤화하는 데 사용할 수 있습니다.
고객은 NeMo가 포함된 NVIDIA AI Enterprise 구독을 통해 NVIDIA 비즈니스 표준 지원을 받을 수 있습니다. NVIDIA 비즈니스 표준 지원은 서비스 수준 계약, NVIDIA 전문가에 대한 액세스, 온프레미스 및 클라우드 배포에 대한 장기적인 지원을 제공합니다.
NVIDIA AI Enterprise에는 NVIDIA 비즈니스 표준 지원이 포함됩니다. NVIDIA의 비즈니스 핵심 지원, 기술 계정 관리자, 교육, 전문 서비스 등 추가 지원 및 서비스에 대한 자세한 내용은 NVIDIA 엔터프라이즈 지원 및 서비스 가이드를 참조하세요.
NeMo Curator는 고품질 멀티모달 데이터세트를 큐레이션하여 생성형 AI 모델의 정확도를 높입니다. 이 라이브러리는 Dask, cuDF, cuGraph, Pytorch를 사용하여 데이터 다운로드, 텍스트 추출, 정제, 필터링, 정확한 중복/퍼지 중복 제거, 텍스트 분류와 같은 데이터 큐레이션 작업을 수천 개의 컴퓨팅 코어로 확장할 수 있도록 API로 표현된 일련의 Python 모듈로 구성되어 있습니다.
NeMo Guardrails는 거대 언어 모델(LLM)을 사용하는 스마트 애플리케이션에서 적절성과 보안을 보장하기 위한 마이크로서비스입니다. 이 솔루션은 LLM 시스템을 운영하는 조직을 보호합니다.
NeMo Guardrails를 사용하면 개발자가 세 가지 종류의 바운더리를 설정할 수 있습니다.
- 주제 가드레일은 앱이 원치 않는 영역으로 갑자기 전환되는 것을 방지합니다. 예를 들어, 고객 서비스 어시스턴트가 날씨 관련 질문에 답변하지 못하도록 할 수 있습니다.
- 안전 가드레일은 앱이 정확하고 적절한 정보로 응답하도록 지원합니다. 원치 않는 언어를 걸러내고 신뢰할 수 있는 출처만 참조하도록 강제할 수 있습니다.
- 보안 가드레일은 앱이 안전하다고 알려진 외부 타사 애플리케이션에만 연결되도록 합니다.
NVIDIA NIM으로 구축된 생성형 AI 마이크로서비스 모음인 NeMo Retriever를 사용하면 기업들이 맞춤형 모델을 다양한 비즈니스 데이터에 원활하게 연결하여 매우 정확한 응답을 제공하도록 만들 수 있습니다. NeMo Retriever는 최저 레이턴시, 최고 처리량, 최대 데이터 프라이버시를 유지하는 세계 최고 수준의 정보 검색 기능을 제공하므로, 조직들은 사유 데이터를 더 잘 활용하고 실시간 비즈니스 인사이트를 생성할 수 있습니다. NeMo Retriever는 엔터프라이즈급 검색 증강 생성 기능으로 비즈니스 데이터가 어디에 있든 연결하여 AI 애플리케이션을 강화합니다.
오픈 소스인 NVIDIA NeMo 에이전트 툴킷은 프로덕션 AI 에이전트 시스템을 위한 프레임워크에 관계없이 프로파일링, 평가, 최적화를 제공합니다. 또한 교차 에이전트 조정, 도구 사용 효율성, 컴퓨팅 비용에 대한 세부적인 지표를 포착하여 NVIDIA 가속 컴퓨팅을 통해 데이터 기반 최적화를 가능하게 합니다. 또한 느린 워크플로우를 병렬화하고, 비용이 큰 연산을 캐싱하며, 모델 업데이트 중에 시스템 정확도를 유지하는 데 사용할 수 있습니다. OpenTelemetry 및 주요 에이전트 프레임워크와 호환되는 이 툴킷은 클라우드 비용을 절감하는 동시에 단일 에이전트에서 엔터프라이즈급 디지털 인력으로 확장할 수 있는 인사이트를 제공합니다.
NVIDIA AI Enterprise의 일부인 NVIDIA NIM은 기업 전반에서 생성형 AI의 배포를 가속화하도록 설계된 사용하기 쉬운 런타임입니다. 이 다목적 마이크로서비스는 오픈 소스 커뮤니티 모델부터 NVIDIA AI Foundation 모델, 맞춤형 AI 모델에 이르기까지 광범위한 AI 모델을 지원합니다. 강력한 추론 엔진의 기반 위에 구축된 NVIDIA NIM은 원활한 대규모 AI 추론을 촉진하도록 설계되어 클라우드, 데이터센터, 워크스테이션 전반에 AI 애플리케이션을 배포할 수 있습니다.
NeMo Evaluator는 맞춤형 LLM 및 RAG를 빠르고 안정적으로 평가하기 위해 설계된 마이크로서비스입니다. 인간 평가와 LLMs-as-a-judge 기법을 비롯하여, 사전 정의된 지표를 사용하는 다양한 벤치마크를 포괄합니다. API 호출을 통해 쿠버네티스에서 선호하는 클라우드 플랫폼 또는 데이터센터 전반에 여러 평가 작업을 동시에 배포하여 효율적으로 결과를 집계할 수 있습니다.
NeMo Customizer는 도메인 특화 사용 사례에 맞게 LLM을 파인 튜닝하고 정렬하는 과정을 간소화하는 고성능의 확장 가능 마이크로서비스입니다.
검색 증강 생성은 LLM을 회사의 지식 기반에 연결하여 최신 정보를 기반으로 응답을 생성할 수 있게 해주는 기법입니다. NeMo는 Milvus, Llama Index, LangChain을 포함한 다양한 타사 및 커뮤니티 도구와 함께 작동하여, 벡터 데이터베이스에서 관련 정보 조각을 추출하고 자연어 응답을 생성하도록 이를 LLM에 제공합니다. 기업 데이터에 대한 질문에 정확하게 답변할 수 있는 프로덕션 품질의 AI 챗봇을 구축하려면 RAG 워크플로우를 사용하는 AI 챗봇 페이지를 살펴보세요.
NVIDIA는 NVIDIA AI 프레임워크를 활용하여 AI 솔루션을 구축할 수 있는 방법을 보여주는 패키지화된 클라우드 네이티브 참조 예제인 AI 워크플로우를 제공합니다. AI 워크플로우는 사전 훈련된 모델, 훈련 및 추론 파이프라인, Jupyter Notebook, Helm 차트를 통해 AI 솔루션을 제공하는 과정을 가속화합니다.
다음과 같은 엔드투엔드 워크플로우를 사용하여 생성형 AI 솔루션을 빠르게 구축해 보세요.
NVIDIA Blueprint는 NVIDIA AI 및 Omniverse 라이브러리, SDK, 마이크로서비스로 구축된 포괄적인 참조 워크플로우입니다. 각 Blueprint에는 참조 코드, 배포 도구, 맞춤화 가이드, 참조 아키텍처가 포함되어 있어, 프로토타입에서 프로덕션에 이르기까지 AI 에이전트 및 디지털 트윈과 같은 AI 솔루션의 배포를 가속화합니다.
NVIDIA AI Enterprise는 데이터 사이언스 파이프라인을 가속화하고 생성형 AI, 컴퓨터 비전, 음성 AI 등을 포함한 프로덕션급 AI 애플리케이션의 개발과 배포를 간소화하는 엔드투엔드 클라우드 네이티브 소프트웨어 플랫폼입니다. 여기에는 AI 실무자를 위한 최고 수준의 개발 도구, 프레임워크, 사전 훈련된 모델, 마이크로서비스뿐 아니라 AI 전문가를 위한 안정적인 관리 기능이 포함되어 성능, API 안정성 및 보안을 보장합니다.
NVIDIA API 카탈로그는 어떤 GPU 가속 시스템에서든 표준화된 도구로 쉽게 배포할 수 있도록, 프로덕션 레디 생성형 AI 모델과 지속적으로 최적화되는 추론 런타임을 패키지화하여 NVIDIA NIM 마이크로서비스로 제공합니다.
NVIDIA의 최신 생성형 및 에이전틱 AI 뉴스를 받아보세요.