NVIDIA Nemotron

업계 최고 수준의 개방형 추론 및 멀티모달 파운데이션 모델로 강력한 엔터프라이즈 AI 에이전트를 구축하세요.

개요

NVIDIA Nemotron이란 무엇인가요?

NVIDIA Nemotron™은 효율적이고 정확하며 특화된 에이전틱 AI 시스템을 구축할 수 있도록 지원하는 개방형 모델, 데이터세트, 기술 제품군입니다. 고급 추론, 코딩, 비주얼 이해, 에이전트 작업, 안전성, 정보 검색을 위해 설계된 Nemotron 모델은 오픈 형태로 제공되며 AI 에코시스템 전반에 통합되어 있어, 엣지부터 클라우드까지 어디서나 배포할 수 있습니다.

투명한 학습 데이터와 폭넓은 플랫폼 지원을 기반으로, Nemotron은 신뢰할 수 있고 고성능인 AI 에이전트를 더욱 쉽게 만들고 배포할 수 있게 해줍니다.

NVIDIA, 유럽 모델 개발사들과 협력해 AI 혁신 가속화

유럽의 모델 구축 업체들은 NVIDIA Nemotron™을 활용하여 소버린 AI 모델을 개발하고 있습니다. 이러한 모델은 Perplexity에 NVIDIA NIM™ 마이크로서비스 형태로 제공되며, NVIDIA 클라우드 파트너의 AI 인프라에서 호스팅될 예정입니다.

NVIDIA, 혁신 가속화를 위해 오픈 소스 AI 모델과 데이터세트 출시

NVIDIA Nemotron의 오픈 모델, 데이터셋, 레시피는 개발자가 어디서나 실행할 수 있는 가장 효율적이고 정확한 전문 에이전틱 AI를 구축할 수 있도록 지원합니다.

이점

Nemotron은 에이전틱 AI에 어떤 이점을 제공하나요?

높은 정확도

Nemotron 모델은 탁월한 지식을 기반으로 널리 사용되는 개방형 추론 모델을 구축하고, 고품질의 훈련 데이터로 사후 훈련하며, 인간과 같은 추론에 맞게 조정되어 주요 벤치마크에서 최고의 정확도를 제공합니다.

높은 연산 효율성

대형 모델을 효율적으로 경량화한 Nemotron 제품군은 NVIDIA TensorRT™-LLM을 활용해 높은 처리량과 뛰어난 연산 효율, 필요 시 작동하는 유연한 추론 기능(on-or-off reasoning)을 제공합니다.

상업적 실용성

NVIDIA의 보완 학습 데이터 및 최적화 기법은 개발자와 기업 모두에게 강력하고 투명하며 적응력이 뛰어난 모델을 보장합니다. 모델과 학습 데이터는 Hugging Face에 공개되어 있습니다.

안전하고 간단한 배포

최적화된 NVIDIA NIM™ 마이크로서비스로 제공되는 Nemotron 모델 제품군은 최고 수준의 추론 성능과 유연한 배포 옵션을 갖추고 있으며, 보안, 프라이버시, 이식성 측면에서도 뛰어난 경험을 제공합니다.

모델

다양한 워크로드를 위한 모델

Nemotron 모델은 추론, 비전, 검색 증강 생성(RAG), 안전을 포함한 다양한 에이전틱 AI 작업에 탁월합니다. 연구 모델도 실험에 사용할 수 있습니다.

추론

다양한 Nemotron 추론 모델 중에서 선택할 수 있습니다. Nano는 PC와 엣지 디바이스에서 뛰어난 정확도를 제공하고, Super는 단일 NVIDIA Tensor Core GPU에서 최고 수준의 정확도와 처리량을 제공하며, Ultra는 멀티-GPU 데이터센터에 최적화된 복잡한 시스템을 위해 최고의 정확도를 제공합니다.

검색 증강 생성(RAG)

Nemotron 모델은 추출, 임베딩, 리랭킹 등 업계 최고 수준의 성능을 제공해, 엔터프라이즈 데이터를 에이전틱 시스템과 연결하는 검색 파이프라인을 구축하고 정확한 실시간 비즈니스 인사이트를 제공할 수 있도록 지원합니다.

가드레일

NVIDIA Nemotron Safety Guard 모델은 유해 콘텐츠, 주제 이탈, 정책 우회(jailbreak) 시도를 실시간으로 감지하고 차단합니다. 다국어 콘텐츠 안전 레이어를 추가해 모더레이션을 강화하고, 문화적 맥락에 맞는 응답을 보장합니다.

기술

에이전틱 AI를 위한 필수 구성 요소

맞춤형 에이전틱 AI를 위한 NVIDIA NeMo™, 빠른 엔터프라이즈급 배포를 위한 NVIDIA NIM, NVIDIA Blueprints를 사용하여 맞춤형 레퍼런스 워크플로우로 개발을 가속화하세요.

NVIDIA NeMo

  • 생성형 AI와 에이전틱 AI를 개발하고, 맞춤화하여 배포하세요.
  • 정밀한 데이터 큐레이션, 최첨단 사용자 정의, 확장 가능한 데이터 수집, RAG, 가속화된 성능을 통해 엔터프라이즈용 거대 언어 모델(LLM)을 제공하세요.
  • 데이터 플라이휠을 손쉽게 구축하고, 최신 정보로 AI 에이전트를 지속적으로 최적화하세요.

NVIDIA NIM

  • 성능 최적화 생성형 AI 모델의 배포 속도를 높여 보세요.
  • 엔터프라이즈급 지원이 뒷받침하는 안정적이고 안전한 API로 비즈니스 애플리케이션을 실행하세요.

NVIDIA Blueprint

  • 엔터프라이즈 심층 리서치나 멀티모달 RAG 같은 생성형 AI 활용 사례를 위한 레퍼런스 애플리케이션으로 빠르게 시작해 보세요.
  • 파트너 마이크로서비스, 하나 이상의 AI 에이전트, 레퍼런스 코드, 커스터마이징 문서, 배포용 Helm 차트까지 포함한 blueprint를 활용해 개발을 더욱 가속하세요.

시작 옵션

Nemotron 시작 방법

무료로 프로토타이핑 시작하기

DGX™ Cloud를 기반으로 사용하기 쉬운 NIM용 API 엔드포인트로 시작해 보세요.

  • 완전히 가속화된 AI 인프라에 엑세스하세요.
  • 자신의 데이터가 모델 학습에 사용되지 않도록 하세요.
  • 크레딧 없이 단순한 과정을 거쳐 구축, 테스트, 배포를 진행할 수 있습니다.

문의하기

NVIDIA AI Enterprise와 함께 제공되는 보안, API 안정성, 지원으로 생성형 AI 파일럿을 프로덕션 환경으로 전환하는 방법에 대해 NVIDIA AI 전문가와 상담하세요.

  • 생성형 AI 사용 사례를 살펴보세요.
  • 기술적 요구 사항을 논의하세요.
  • NVIDIA AI 솔루션을 목표와 요구 사항에 맞게 조정하세요.

채택 업체

Nemotron을 사용하는 기업

리소스

Nemotron 최신 정보 살펴보기

NVIDIA, 에이전틱 AI 플랫폼 구축을 위한 개방형 추론 모델 제품군 출시

Llama를 기반으로 구축하고 DeepSeek-R1에서 증류하여 NVIDIA가 보완 학습한 이 모델군을 살펴보고, 이 모델들이 바로 배포 가능한 AI 에이전트에 대한 비즈니스 요구를 어떻게 충족하는지 알아보세요.

고급 개방형 NVIDIA Llama Nemotron 추론 모델을 사용하여 엔터프라이즈 AI 에이전트를 구축하세요

NVIDIA가 Llama 개방형 모델을 기반으로 구축하고, DeepSeek-R1의 추론 역량을 활용해 보완 학습하여 Llama Nemotron 추론 모델군을 개발한 과정에 대해 알아보세요.

맞춤형 추론 모델을 구축하여 고급 에이전틱 AI 자율성 달성하기

증류 및 강화 학습을 포함한 다양한 기법을 사용하여 추론 모델을 구축하거나 맞춤화하는 방법을 알아보세요

블로그

FAQ

NVIDIA Nemotron 모델은 단순히 오픈 소스 수준이 아니라 진정한 오픈 소스입니다. NVIDIA는 학습 데이터셋, 기법, 모델 가중치를 게시하여 오픈 소스 커뮤니티가 우리의 학습 내용을 활용하고 이러한 리소스를 사용하여 자체 모델을 생성할 수 있도록 지원합니다.

NVIDIA 오픈 모델 라이선스는 사용자가 NVIDIA에 대한 별도의 크레딧 없이 생성형 AI의 혁신과 발전을 장려하며, 모델과 파생 모델을 사용, 수정, 배포, 상업적으로 활용할 수 있도록 하는 허용적인 라이선스입니다.

예, Hugging Face에서 NVIDIA Nemotron 모델을 무료로 다운로드하여 프로덕션에서 실행할 수 있습니다.

NVIDIA는 또한 NVIDIA AI 엔터프라이즈 라이선스가 필요하며, 안전하고 확장 가능한 배포를 위한 Nemotron 모델을 NVIDIA NIM 마이크로서비스로 제공합니다. Nemotron 모델을 사용해 보고 build.nvidia.com에서 NIM 마이크로서비스를 다운로드할 수 있습니다.

예, NVIDIA는 오픈 소스 에코시스템을 지원하기 위해 더 많은 Nemotron 모델, 데이터셋, 그리고 기법을 출시하기 위해 최선을 다하고 있습니다.

NVIDIA Nemotron 모델은 최첨단 개방형 모델을 기반으로 구축되어 더 나은 모델을 더 빠르게 구축할 수 있습니다. 또한, NVIDIA는 모델 가중치, 학습 데이터셋, 학습 기법을 게시하여 개발자 커뮤니티가 Nemotron의 다양한 부분을 사용하여 자체 모델을 학습시킬 수 있도록 지원합니다.

네, NVIDIA는 Llama 모델 제품군을 기반으로 Llama Nemotron 모델을 개발했으며, NVIDIA의 오픈 데이터셋과 뉴럴 아키텍처 탐색(NAS)과 같은 고급 기술을 사용했습니다. Llama Nemotron 모델은 상위 Llama 모델의 라이선스를 그대로 따릅니다.

NVIDIA는 프로덕션에서 NVIDIA Dynamo, TensorRT-LLM, NIM과 같은 다양한 도구를 제공하여 Nemotron 모델을 대규모로 실행할 수 있습니다. SGLang 및 vLLM과 같은 인기 있는 오픈 소스 라이브러리를 사용할 수도 있습니다.

다음 단계

시작할 준비가 되었나?

적절한 도구와 기술을 사용하여 NVIDIA Nemotron 모델을 개발에서 프로덕션으로 전환해 보세요.

문의하기

NVIDIA AI Enterprise와 함께 제공되는 보안, API 안정성, 지원을 통해 파일럿에서 프로덕션으로 전환하는 방법에 대해 NVIDIA 제품 전문가와 상담해 보세요.

최신 NVIDIA 에이전틱 AI 뉴스 받아보기

최신 에이전틱 AI 뉴스, 기술, 혁신 등의 소식을 이메일로 바로 받아보세요.