NVIDIA Nemotron

장시간 실행되는 AI 에이전트를 위한 고효율 멀티모달 개방형 모델입니다.

개요

NVIDIA Nemotron이란 무엇인가요?

NVIDIA Nemotron™은 장기적으로 실행되는 자체 진화하는 에이전트를 위해 구축된 고효율의 멀티모달 개방형 AI 모델 제품군입니다. 작업을 더 빠르게 완료하도록 설계된 Nemotron 모델은 복잡한 에이전트 워크플로우에 높은 추론 처리량과 최고의 정확도를 제공합니다.

투명한 학습 데이터와 NVIDIA RTX PRO™ 및 NVIDIA DGX Spark™를 포함한 광범위한 플랫폼 지원을 바탕으로, Nemotron 모델은 개방적으로 제공되며 AI 생태계 전반에 통합되어 있습니다. 이를 통해 신뢰할 수 있는 고성능 AI 에이전트를 엣지부터 클라우드까지 어디에서나 배포할 수 있습니다.

NVIDIA 엔터프라이즈 소프트웨어 플랫폼으로 업무의 미래를 구축

NVIDIA 소프트웨어가 엔지니어링, 의료, 운영 전반에 걸쳐 복잡한 워크플로우를 위해 장시간 실행 에이전트를 구동하여 직원 생산성을 높이는 방법을 알아보세요.

동영상

NVIDIA가 Nemotron을 구축한 이유

NVIDIA의 Applied Deep Learning Research 부문 부사장 Bryan Catanzaro가 전하는 Nemotron의 비전과 함께, 신뢰할 수 있는 기업용 AI 구축을 위한 오픈 기술의 필수성을 확인하세요.

이점

Nemotron은 에이전틱 AI에 어떤 이점을 제공하나요?

높은 정확도

탁월한 지식을 기반으로 처음부터 설계되고, 고품질 학습 데이터로 후속 학습되며, 강화학습을 통해 정렬된 Nemotron 모델은 장기적으로 실행되는 에이전틱 시스템에서 최고 수준의 정확도를 달성합니다.

높은 연산 효율성

Nemotron 제품군은 최고 처리량과 하이브리드 MoE 아키텍처를 통해 에이전틱 작업을 더 빠르게 완료할 수 있도록 최적화되어 있습니다.

상업적 실용성

NVIDIA의 보완 학습 데이터 및 최적화 기법은 개발자와 기업 모두에게 강력하고 투명하며 적응력이 뛰어난 모델을 보장합니다. 모델과 학습 데이터는 Hugging Face에 공개되어 있습니다.

안전하고 간단한 배포

최적화된 NVIDIA NIM™ 마이크로서비스로 제공되는 Nemotron 모델 제품군은 최고 수준의 추론 성능과 유연한 배포 옵션을 갖추고 있으며, 보안, 프라이버시, 이식성 측면에서도 뛰어난 경험을 제공합니다.

모델

다양한 워크로드를 위한 모델

Nemotron 모델은 추론, 멀티모달 비전, 검색 증강 생성(RAG), 음성, 안전성을 다양한 에이전틱 AI 작업에서 탁월한 성능을 발휘합니다. 실험을 위한 연구용 모델도 제공됩니다.

추론

Nemotron 모델은 다양한 추론 워크로드를 지원합니다. Nano는 특화된 서브 에이전트를 위해 탁월한 정확도와 효율성을 제공하며, Super는 멀티 에이전트 시스템에서 복잡한 작업을 실행하기 위해 최고 수준의 정확도, 높은 처리량의 추론 및 도구 호출을 제공하고, Ultra는 다단계 워크플로우 전반에서 최대 수준의 성능이 요구되는 미션 크리티컬 애플리케이션에 최상의 추론 성능을 제공합니다.

시각적 이해

멀티모달 Nemotron 모델은 비디오, 오디오, 이미지, 텍스트 전반에서 기업용 에이전틱 활용 사례를 위해 최고 수준의 효율성과 선도적인 정확도를 제공합니다. 특화된 서브 에이전트에 최적화되었으며, 컴퓨터 사용 에이전트, 문서 인텔리전스, 영상 및 오디오 이해와 같은 기능을 지원합니다.

음성

NVIDIA Nemotron 음성 모델은 에이전틱 AI 애플리케이션을 위해 고처리량과 초저지연 시간을 보장하는 자동 음성 인식(ASR), 텍스트 음성 변환(TTS) 및 신경망 기계 번역(NMT) 기능을 제공합니다.

검색 증강 생성(RAG)

Nemotron RAG 모델은 멀티모달 구조화 정보를 추출하고, 고품질 임베딩을 생성하며, 가장 관련성이 높은 문서를 순위별로 정렬하여 빠르고 정확한 문서 이해 능력을 제공합니다. LLM 학습을 위한 데이터 품질을 향상시키고, 에이전트 및 검색 성능을 강화하며, 문서 워크플로우를 간소화하는 확장 가능한 고속 검색 기능을 제공합니다.

안전

NVIDIA Nemotron Safety 모델은 유해 콘텐츠, 주제 이탈, 정책 우회(jailbreak) 시도를 실시간으로 감지하고 차단합니다. 추론 기능을 갖춘 다국어 멀티모달 콘텐츠 안전 계층을 추가하여 모니터링 역량을 강화하고, 각 지역의 문화적 가치에 부합하도록 보장합니다.

기술

에이전틱 AI를 위한 필수 구성 요소

맞춤형 에이전틱 AI를 위한 NVIDIA NeMo™, 빠른 엔터프라이즈급 배포를 위한 NVIDIA NIM, NVIDIA Blueprints를 사용하여 맞춤형 레퍼런스 워크플로우로 개발을 가속화하세요.

NVIDIA NeMo

  • 생성형 AI와 에이전틱 AI를 개발하고, 맞춤화하여 배포하세요.
  • 정밀한 데이터 큐레이션, 최첨단 사용자 정의, 확장 가능한 데이터 수집, RAG, 가속화된 성능을 통해 엔터프라이즈용 거대 언어 모델(LLM)을 제공하세요.
  • 데이터 플라이휠을 손쉽게 구축하고, 최신 정보로 AI 에이전트를 지속적으로 최적화하세요.

NVIDIA NIM

  • 성능 최적화 생성형 AI 모델의 배포 속도를 높여 보세요.
  • 엔터프라이즈급 지원이 뒷받침하는 안정적이고 안전한 API로 비즈니스 애플리케이션을 실행하세요.

NVIDIA Blueprint

  • 엔터프라이즈 심층 리서치나 멀티모달 RAG 같은 생성형 AI 활용 사례를 위한 레퍼런스 애플리케이션으로 빠르게 시작하세요.
  • 파트너 마이크로서비스, 하나 이상의 AI 에이전트, 레퍼런스 코드, 커스터마이징 문서, 배포용 Helm 차트까지 포함한 blueprint를 활용해 개발을 더욱 가속하세요.

시작 옵션

Nemotron 시작 방법

무료로 프로토타이핑 시작하기

간편한 API 엔드포인트로 시작하세요.

  • 완전히 가속화된 AI 인프라에 엑세스하세요.
  • 자신의 데이터가 모델 학습에 사용되지 않도록 하세요.
  • 별도의 크레딧 없이 구축, 테스트 및 배포를 위한 간결한 경로를 제공합니다.

추론 서비스 제공업체에서 Nemotron을 실행하세요.

검증된 서드파티 추론 플랫폼에 Nemotron 모델을 즉시 배포하고, 인프라 설정 없이 사용하세요.

  • 인프라 관리 없이 배포하세요.
  • 프로토타입부터 프로덕션까지 원활하게 확장하세요.
  • 사용량 기반 과금으로 비용을 최적화하세요.

문의하기

NVIDIA AI Enterprise와 함께 제공되는 보안, API 안정성, 지원으로 생성형 AI 파일럿을 프로덕션 환경으로 전환하는 방법에 대해 NVIDIA AI 전문가와 상담하세요.

  • 생성형 AI 사용 사례를 살펴보세요.
  • 기술적 요구 사항을 논의하세요.
  • NVIDIA AI 솔루션을 목표와 요구 사항에 맞게 조정하세요.

채택 업체

Nemotron을 사용하는 기업

리소스

Nemotron 최신 정보 살펴보기

NVIDIA가 Nemotron을 구축한 이유

Nemotron이 어떻게 혁신을 가속화하고, 개발자의 역량을 강화하며, AI의 미래를 만들어가고 있는지 알아보세요.

ServiceNow가 문서 인텔리전스를 발전시키는 비결

Nemotron의 모델 가중치, 데이터셋, 학습 레시피에 대한 접근이 어떻게 더 심도 있는 평가를 가능하게 했는지, 시각적 Q&A 정확도에 관해 ServiceNow가 발견한 사실은 무엇인지, 그리고 멀티모달 AI의 지속적인 개선을 위해 개방성이 왜 중요한지 알아보세요.

추론 ON/OFF: AI 추론으로 결혼식 자리 배치하기

AI 추론 기능을 갖춘 LLM이 복잡한 가족 관계와 하객들의 선호도를 고려하여, 결혼식 좌석 배치 문제를 해결하기 위해 어떻게 틀을 깨는 사고로 창의적인 솔루션을 찾아내는지 확인하세요.

블로그

FAQ

NVIDIA Nemotron 모델은 단순히 오픈 소스 수준이 아니라 진정한 오픈 소스입니다. NVIDIA는 학습 데이터셋, 기법, 모델 가중치를 게시하여 오픈 소스 커뮤니티가 우리의 학습 내용을 활용하고 이러한 리소스를 사용하여 자체 모델을 생성할 수 있도록 지원합니다.

NVIDIA 오픈 모델 라이선스는 사용자가 NVIDIA에 대한 별도의 크레딧 없이 생성형 AI의 혁신과 발전을 장려하며, 모델과 파생 모델을 사용, 수정, 배포, 상업적으로 활용할 수 있도록 하는 허용적인 라이선스입니다.

예, Hugging Face에서 NVIDIA Nemotron 모델을 무료로 다운로드하여 프로덕션에서 실행할 수 있습니다.

NVIDIA는 또한 NVIDIA AI 엔터프라이즈 라이선스가 필요하며, 안전하고 확장 가능한 배포를 위한 Nemotron 모델을 NVIDIA NIM 마이크로서비스로 제공합니다. Nemotron 모델을 사용해 보고 build.nvidia.com에서 NIM 마이크로서비스를 다운로드할 수 있습니다.

예, NVIDIA는 오픈 소스 에코시스템을 지원하기 위해 더 많은 Nemotron 모델, 데이터셋, 그리고 기법을 출시하기 위해 최선을 다하고 있습니다.

NVIDIA Nemotron 모델은 최첨단 개방형 모델을 기반으로 구축되어 더 나은 모델을 더 빠르게 구축할 수 있습니다. 또한, NVIDIA는 모델 가중치, 학습 데이터셋, 학습 기법을 게시하여 개발자 커뮤니티가 Nemotron의 다양한 부분을 사용하여 자체 모델을 학습시킬 수 있도록 지원합니다.

NVIDIA는 프로덕션에서 NVIDIA Dynamo, TensorRT-LLM, NIM과 같은 다양한 도구를 제공하여 Nemotron 모델을 대규모로 실행할 수 있습니다. SGLang 및 vLLM과 같은 인기 있는 오픈 소스 라이브러리를 사용할 수도 있습니다.

다음 단계

시작할 준비가 되었나요?

적절한 도구와 기술을 사용하여 NVIDIA Nemotron 모델을 개발에서 프로덕션으로 전환하세요.

문의하기

NVIDIA AI Enterprise와 함께 제공되는 보안, API 안정성, 지원을 통해 파일럿에서 프로덕션으로 전환하는 방법에 대해 NVIDIA 제품 전문가와 상담하세요.

최신 NVIDIA 에이전틱 AI 뉴스 받아보기

최신 에이전틱 AI 뉴스, 기술, 혁신 등의 소식을 이메일로 바로 받아보세요.