NVIDIA NeMo

엔터프라이즈 규모에서 AI 에이전트의 전체 라이프사이클에 걸쳐 구축, 모니터링 및 최적화를 지원하는 포괄적인 툴킷입니다.

개요

NVIDIA NeMo란 무엇인가요?

NVIDIA NeMo는 AI 에이전트 라이프사이클 관리를 위한 포괄적인 툴킷입니다. 데이터 처리, 데이터 생성, 모델 미세 조정 및 평가, 강화학습, 음성, 안전성, 에이전트 관측성을 위한 오픈 라이브러리와 마이크로서비스를 포함합니다. NeMo를 사용하여 NVIDIA Nemotron™ 및 다양한 오픈 모델들을 맞춤화하여 도메인 요구사항과 데이터에 최적화된 프로덕션급 특화된 에이전틱 시스템을 구축하세요.

기존 AI 플랫폼과 통합되며 클라우드, 온프레미스 및 하이브리드 배포를 지원합니다.

 

NVIDIA 데이터 플라이휠 Blueprint

이 AI Blueprint는 개발자가 실제 사용 데이터를 수집하는 자동화된 데이터 플라이휠을 구축하여 생성형 AI 및 에이전틱 AI 애플리케이션의 정확도와 효율성을 지속적으로 향상시킬 수 있도록 지원합니다.

NVIDIA AI-Q Blueprint

조직의 지식을 바탕으로 정확하고 상황을 인지하는 인사이트를 제공하기 위해, 기업 데이터, 도구 및 워크플로우에 안전하게 연결되는 맞춤형 엔터프라이즈 리서치 에이전트 구축을 위한 스레퍼런 워크플로우입니다.

기능

AI 에이전트 라이프사이클 관리를 위한 도구

AI 에이전트 라이프 사이클은 프로덕션 애플리케이션에서 AI 에이전트를 개발하고 개선하기 위한 엔드투엔드 프로세스입니다. NVIDIA NeMo는 이러한 워크플로우의 각 단계를 지원하는 도구를 제공하여 기업이 강력하고 안전하며 지속적으로 학습할 수 있도록 지원합니다.

구축
AI 개발에 적합한 데이터 준비

기존의 멀티모달 데이터셋을 고품질의 AI 개발용 포맷으로 가공하고, 부족한 데이터를 보완하기 위해 합성 데이터를 생성할 수 있습니다.
  • NeMo Curator
    에이전트 활용 사례 및 모델 학습을 위해 안전한 멀티모달 데이터를 정제, 필터링 및 준비하세요.
  • NeMo Data Designer
    특화된 에이전트 구축 및 평가를 위해 처음부터 도메인 특화 합성 데이터셋을 생성하세요.
적합한 모델 선택

: 오픈 Nemotron 모델, 기타 오픈 또는 상용 모델, 혹은 처음부터 직접 학습시키는 방식 중에서, 해당 사용 사례에 가장 잘 맞는 모델을 선택하거나 구축합니다. 평가 실행을 통해 검증하고 필요에 따라 파인튜닝하세요.
  • NVIDIA Nemotron
    : 추론, RAG, 음성, 비전 및 안전성을 위한 최첨단 오픈 NVIDIA 모델입니다.
  • NeMo Retriever
    : 확장 가능한 파이프라인을 구축하여 복잡한 문서에서 텍스트, 표, 차트 및 이미지를 추출하세요.
  • NeMo Evaluator
    학술, LLM-as-a-judge 및 맞춤형 평가를 사용하여 모델과 에이전트를 벤치마크하고 테스트하세요.
AI 에이전트 구축

내장된 성능 분석, 병목 감지, 평가 기반 RL 튜닝 및 LangChain, LlamaIndex 등 다양한 에이전트 생태계와의 상호운용성을 통해 프레임워크 전반에서 에이전트 워크플로우를 프로파일링하고 최적화하세요.
  • NeMo Agent Toolkit
    프레임워크에 종속되지 않는 AI 에이전트 구축, 프로파일링 및 최적화를 위한 오픈 라이브러리입니다.
배포
에이전트를 최고 성능으로 배포하다

고처리량, 저지연 추론을 통해 프로덕션에 맞게 에이전트를 최적화하다 엔터프라이즈 요구 사항을 충족하고 빠르고 신뢰할 수 있는 응답을 제공할 수 있도록 확장하세요.
  • NVIDIA NIM
    OpenAI 호환 API로 노출된 최적화된 컨테이너에서 AI 모델을 실행하세요.
데이터 기반 유지 및 가드레일 적용

검색 증강 생성(RAG)을 사용하여 신뢰할 수 있는 지식에 에이전트 응답을 기반하록 하는 동시에 안전성, 규정 준수 및 콘텐츠 모더레이션 가드레일을 적용하세요.
  • NeMo Retriever
    정확하고 개인 정보 보호 RAG 파이프라인을 구축하세요.
  • NeMo Guardrails
    : AI 상호작용 전반에서 안전성, 규정 준수 및 제어를 향상시킵니다.
최적화
모니터링 및 피드백 수집

에이전트가 사용자와 기타 시스템과의 실제 상호작용을 추적합니다. 성능과 정확도를 체계적으로 평가하여 지속적으로 향의 기회를 찾습니다.
  • NeMo Agent Toolkit
    프레임워크에 종속되지 않는 AI 에이전트 구축, 프로파일링 및 최적화를 위한 오픈 라이브러리입니다.
  • NeMo Customizer
    도메인 데이터에 맞게 모델을 미세 조정하고 정렬하기 위한 마이크로서비스입니다.
  • NeMo Framework
    LLM 및 멀티모달을 대규모로 효율적으로 학습하고 정렬하기 위한 모든 오픈 소스 NeMo 라이브러리 모음입니다.
데이터 플라이휠로 지속적인 개선

모니터링을 통해 수집한 피드백과 데이터를 바탕으로 데이터 중심의 플라이휠을 구축하고, 이를 반복 학습에 활용해 에이전트 성능을 꾸준히 최적화하고 유지합니다.
  • NeMo RL
    고급 강화 학습(RL) 기법을 활용해 모델을 대규모로 포스트 트레이닝하고 정렬합니다.
  • NeMo Gym
    고품질 에이전트 RL 학습 데이터/롤아웃 생성을 위한 시뮬레이션 기반 RL 학습 환경입니다.
  • NeMo Evaluator
    학술, LLM-as-a-judge 및 맞춤형 평가를 사용하여 모델과 에이전트를 벤치마크하고 테스트하세요.
  • NeMo Customizer
    도메인 데이터에 맞게 모델을 미세 조정하고 정렬하기 위한 마이크로서비스입니다.

사용 사례

NeMo가 사용 사례

NVIDIA NeMo가 업계 사용 사례를 지원하고 AI 개발을 빠르게 시작하는 방법을 알아보세요.

AI 에이전트

AI 에이전트는 다양한 산업의 고객 서비스를 혁신하고 있습니다. 고객과의 대화를 더 효과적으로 만들고, 문제 해결률을 높이며, 상담원의 업무 효율까지 향상시키는 데 큰 도움을 주고 있습니다. AI 에이전트는 예측 작업을 수행하고, 추론과 문제 해결 능력을 갖추며, 산업별 용어를 이해하도록 학습시킬 수 있습니다. 또한 데이터가 어디에 있든 조직 내 지식 기반에서 필요한 정보를 찾아 활용할 수 있습니다.

에이전틱 AI를 위한 합성 데이터 생성

특화된 에이전틱 시스템에는 실제 소스에서 수집하는 데 시간이 오래 걸리고 비용이 많이 드는 대규모 고품질 데이터셋이 필요합니다. 시뮬레이션이나 생성형 AI 모델을 통해 생성된 합성 데이터는 개인정보 보호 제한이나 품질 문제 없이 무제한의 학습 시나리오를 생성하여 이러한 병목 현상을 해소할 수 있습니다. 이를 통해 추론 LLM, 다단계 의사 결정자, 멀티모달 AI 어시스턴트를 더 빠르게 개발할 수 있습니다.

AI 어시스턴트

기업들은 수백만 명의 고객과 직원의 문의를 24시간 효율적으로 해결하기 위해 AI 어시스턴트를 배포하고 있습니다. LLM, RAG, 음성 및 번역 AI를 위한 맞춤형 NVIDIA NIM™ 마이크로서비스를 기반으로 한 이러한 AI 팀원들은 배경 소음, 저조한 음질, 다양한 방언과 억양이 있는 상황에도 즉각적이고 정확한 음성 응답을 제공합니다.

엔터프라이즈 검색

엔터프라이즈는 매년 PDF, 보고서, 프레젠테이션 등을 포함해 수조 개의 문서를 생성하며, 각 문서에는 텍스트, 이미지, 차트 및 표가 포함되어 있고 이러한 문서들은 서로 연결되지 않은 시스템 전반에 분산되어 있습니다. AI 기반 엔터프라이즈 검색은 이러한 분산된 데이터를 통합된 지식 베이스로 전환하여 직원이 자연어를 사용해 인사이트를 즉시 도출하고 더 낮은 비용으로 더 빠른 의사결정을 내릴 수 있도록 지원합니다.

콘텐츠 생성

생성형 AI를 사용하면 기업의 도메인 전문성과 독점 IP에 기반한 관련성이 높고 맞춤화되고 정확한 콘텐츠를 생성할 수 있습니다.

휴머노이드 로봇

휴머노이드 로봇은 인간 중심의 도시 및 산업 근무 현장에 재빨리 적응하여 지루하고 반복적이거나 물리적으로 큰 힘이 필요한 작업을 수행하도록 제작되었습니다. 이러한 로봇은 공장 현장, 의료 시설에 이르기까지 다양한 장소에서 활용되고 있으며, 이러한 로봇은 인간을 보조하고 자동화를 통해 인력 부족을 완화하는 데 기여하고 있습니다.

Apptronik

이점

에이전틱 AI를 위한 NVIDIA NeMo의 이점 살펴보기

포괄적이고 모듈형인 AI 에이전트 제품군

상호운용 가능한 엔터프라이즈급 소프트웨어 제품군을 사용하여 데이터 큐레이션 및 포스트 트레이닝부터 평가, 가드레일, 관측성 및 지속적 최적화에 이르기까지 에이전트 전체 라이프사이클을 관리하세요.

대규모에서 가속화

엔터프라이즈 데이터를 활용해 데이터 플라이휠을 배포하고 확장하며, GPU 가속 학습, 추론, 멀티 노드 확장 및 고처리량 에이전트 워크로드를 위한 비용 효율적 최적화를 지원합니다.

ROI 증가

특화 에이전트 시스템을 더 빠르게 구축, 맞춤화 및 배포하여 프로덕션까지의 시간을 단축하고 AI 투자 대비 수익을 극대화하세요.

안전한 프로덕션 지원

민감한 데이터를 보호하고 정책 및 프롬프트 가드레일을 적용하며 모델을 검증하고 취약점을 지속적으로 탐지합니다. NVIDIA AI Enterprise를 통해 클라우드, 데이터센터 및 엣지 전반에서 엔터프라이즈급 지원과 안정성을 바탕으로 안전하게 배포하세요.

시작 옵션

NVIDIA NeMo를 시작하는 방법

프로덕션 환경에서 AI 에이전트를 구축하고 모니터링하며 최적화할 수 있는 다양한 도구와 기술로 전체 라이프사이클을 관리할 수 있습니다.

1

NVIDIA Nemotron과 같은 NVIDIA 최적화 파운데이션 모델을 사용해 보세요.

2

NVIDIA NeMo를 활용하여 AI 에이전트를 구축, 모니터링 및 최적화하세요.

3

NVIDIA Blueprint로 AI 솔루션 구축을 빠르게 시작해 보세요.

고객 사례

업계 리더들이 NeMo로 혁신을 주도하는 방법

채택 업체

모든 산업 분야에서의 선도적인 채택 기업

리소스

NVIDIA NeMo 리소스의 최신 소식

LLM 맞춤화 시작하기

이 과정에서는 프롬프트 엔지니어링 LLM을 넘어 특정 사용 사례에 맞게 사전 훈련된 LLM을 효율적으로 맞춤화하는 기술을 배우게 됩니다. NVIDIA NIM 마이크로서비스, NeMo Curator, NeMo 프레임워크를 사용하여 조직에 맞게 LLM 동작을 맞춤화하기 위한 다양한 매개변수 효율적인 조정 방법을 배우게 됩니다.

LLM 기술 향상

NVIDIA 전문가가 개발하여 제공하는 실습 교육을 특징으로 하는 기초에서 고급 주제까지 모두 다루는 종합적인 LLM 학습 과정을 활용하세요. 자율적으로 유연하게 학습할 수 있는 과정을 선택하거나 강사 주도 워크숍에 등록하여 역량 인증서를 취득할 수 있습니다.

NVIDIA 인증 취득하기

NVIDIA 인증을 취득하여 자신의 생성형 AI 기술을 입증하고 경력을 발전시키세요. NVIDIA의 새로운 전문가 인증 프로그램은 거대 언어 모델(LLM)의 숙련도 및 멀티모달 워크플로우 기술에 초점을 맞춘 두 가지 개발자 시험을 제공합니다.

주말 동안 추론 능력을 갖춘 LLM 학습하기

Llama Nemotron 후처리 데이터셋과 NVIDIA NeMo에서 선별한 소량의 학습 데이터를 사용해, 추론 모델을 간단하고 효율적으로 학습시키는 방법을 소개합니다.

데이터 플라이휠을 사용한 AI 에이전트 최적화

NeMo와 NIM 마이크로서비스 기반의 NVIDIA 데이터 플라이휠 Blueprint를 활용해, 실제 운영 환경에서 AI 에이전트를 어떻게 최적화할 수 있는지 알아보세요. 이 Blueprint는 지식 증류, 파인튜닝, 평가를 반복하는 지속적인 개선 루프를 중심으로 구성되어 있습니다.

NeMo Agent 오픈 소스 툴킷을 사용한 AI 에이전트 구축하기

NVIDIA NeMo Agent 오픈 소스 Python 툴킷을 사용하여 맞춤형 AI 에이전트를 구축, 통합 및 최적화하는 방법을 알아보세요.

다음 단계

시작할 준비가 되셨나요?

적절한 도구와 기술을 활용해 에이전트형 AI 애플리케이션을 개발 단계에서 실제 운영 환경까지 원활하게 전환하세요.

개발자용

최신 문서, 튜토리얼, 기술 블로그 등을 포함하여 NVIDIA NeMo로 개발을 시작하는 데 필요한 모든 것을 살펴보세요.

문의하기

NVIDIA AI Enterprise가 제공하는 보안, API 안정성, 기술 지원을 바탕으로, 파일럿 단계에서 운영 환경으로의 전환에 대해 NVIDIA 제품 전문가와 상담해보세요.

Shell

Shell, NVIDIA NeMo로 맞춤형 AI 챗봇을 훈련하여 운영 수준 향상

에너지 산업의 글로벌 리더인 Shell은 NVIDIA NeMo를 활용하여 화학 분야 전문 지식을 갖춘 맞춤형 AI 챗봇 개발 여정을 가속화하고 있습니다. 이 혁신적인 솔루션은 검색을 단순화하고, 의사결정을 개선하며, 생산 환경에서의 연구 개발을 지원함으로써 직원 생산성을 한층 높일 수 있습니다.

AI Sweden

LLM을 통한 산업 애플리케이션 가속화

AI Sweden은 1,000억 개의 매개변수가 있는 강력한 모델에 손쉽게 액세스할 수 있도록 제공하여 지역 언어 모델 애플리케이션을 촉진했습니다. AI Sweden은 상업적 용도의 언어 모델을 개발하기 위해 과거 기록을 디지털화했습니다.

Amazon

판매자가 더 나은 제품 리스트를 생성하도록 Amazon과 NVIDIA가 AI를 통해 지원하는 방법

Amazon은 NVIDIA TensorRT-LLM 및 GPU를 사용하여 새로운 AI 기능의 추론 속도를 두 배로 높여 판매자가 제품 리스트를 더 최적화할 수 있도록 지원합니다.

Amdocs

전 세계 통신 업계에 맞춤 생성형 AI를 제공하는 NVIDIA와 Amdocs

Amdocs는 Microsoft Azure에서 NVIDIA AI 파운드리 서비스를 사용하여 1조 7천억 달러 규모의 글로벌 통신 산업을 위한 맞춤형 LLM을 구축할 계획입니다.

AT&T

AT&T, NVIDIA NeMo로 고객 관리 AI 에이전트의 정확성, 효율성, 성능 향상

세계 최대 통신 기업 중 하나인 AT&T는 AI의 파워를 활용하여 고객 관리를 혁신하고 있습니다. 모델 드리프트, 연산 수요 증가, 실시간 데이터 액세스 필요성 등의 문제에 직면한 AT&T는 NVIDIA NeMo™ 마이크로서비스를 활용하여 비용, 속도 및 규정 준수를 최적화하면서 지속적으로 성능을 개선하는 피드백 기반 AI 플랫폼을 구축했습니다.

AWS

NVIDIA, 가장 큰 Amazon Titan 파운데이션 모델을 위한 훈련을 강화

Amazon은 NVIDIA NeMo 프레임워크, GPU, AWS EFA를 활용하여 차세대 LLM을 훈련함으로써 최대 규모의 Amazon Titan 파운데이션 모델 고객에게 생성형 AI를 위한 더 빠르고 접근하기 쉬운 솔루션을 제공했습니다.

Accenture

엔터프라이즈를 위한 생성형 AI 도입을 가속화하다

ServiceNow, NVIDIA, Accenture는 엔터프라이즈 생성형 AI 기능의 개발과 채택을 신속하게 추적하기 위해 설계된 최초의 프로그램인 AI Lighthouse의 출시를 발표했습니다.

Azure

Azure Machine Learning에서 NVIDIA AI Enterprise의 성능 활용하기

Microsoft Azure에서 엔터프라이즈 환경에 맞춤화된 도구, 라이브러리, 프레임워크 및 지원 서비스로 구성된 완전한 에코시스템에 액세스하세요.

Bria

Bria, NVIDIA NeMo와 Picasso를 활용해 기업을 위한 공정하고 신뢰할 수 있는 생성형 AI를 개발하다

텔아비브에 본사를 둔 스타트업 Bria는 시각 생성형 AI 기술을 기업용 제품에 건전하고 투명한 방식으로 도입하려는 기업들을 지원합니다. Bria의 생성형 AI 서비스는 모델의 투명성을 강조하면서, 창작자에 대한 정당한 표기와 저작권 보호까지 고려해 설계됐습니다.

Cohesity

NVIDIA 마이크로서비스, Cohesity를 위해 안전한 엔터프라이즈급 생성형 AI 구현

Cohesity DataProtect 고객은 NVIDIA NIM과 최적화된 모델을 통해 데이터 백업과 아카이브에 생성형 AI 인텔리전스를 추가할 수 있습니다. 이를 통해 Cohesity와 NVIDIA는 모든 Cohesity DataProtect 고객에게 생성형 AI의 강력한 성능을 제공할 수 있습니다. NIM과 NVIDIA 최적화 모델의 성능을 통해 Cohesity DataProtect 고객은 데이터 백업 및 아카이브에서 데이터 기반 통찰력을 활용하여 새로운 수준의 효율성, 혁신, 그리고 성장을 이룰 수 있습니다.

CrowdStrike

사이버보안 분야의 AI 미래를 이끌다

CrowdStrike와 NVIDIA는 가속 컴퓨팅과 생성형 AI를 활용해, 보안 위협에 효과적으로 대응할 수 있도록 설계된 혁신적인 AI 기반 솔루션을 고객에게 제공합니다.

DELL

NVIDIA와 함께 Dell의 생성형 AI 검증 설계

Dell Technologies와 NVIDIA는 기업이 온프레미스 환경에서 생성형 AI 모델을 빠르고 안전하게 구축하고 활용할 수 있도록 지원하는 이니셔티브를 발표했습니다.

Deloitte

엔터프라이즈 소프트웨어 플랫폼 전반에서 생성형 AI의 가치 실현

Deloitte는 NVIDIA의 AI 기술과 전문성을 활용해 기업용 소프트웨어 플랫폼에 최적화된 고성능 생성형 AI 솔루션을 구축하고, 이를 통해 기업이 더 큰 비즈니스 가치를 실현할 수 있도록 지원할 예정입니다.

Domino Data Lab

Domino, NVIDIA 기반의 프로덕션 준비를 마친 생성형 AI 제공

데이터 사이언티스트는 NVIDIA NeMo를 활용하여 Domino의 플랫폼에서 독점 데이터와 IP를 기반으로 도메인별 사용 사례를 위한 LLM을 파인튜닝할 수 있으며, 처음부터 다시 시작할 필요가 없습니다.

Dropbox

Dropbox와 NVIDIA, 수백만 고객에게 맞춤형 생성형 AI 도입

Dropbox는 NVIDIA의 AI 파운드리를 활용하여 맞춤형 모델을 구축하고 Dropbox Dash 범용 검색 도구와 Dropbox AI를 통해 AI 기반 지식 작업을 개선할 계획입니다.

Google Cloud

AI 주요 기업들, 생성형 AI를 활용하기 위해 협력하다

Google Cloud는 Next 컨퍼런스에서 NVIDIA H100 텐서 코어 GPU 기반의 A3 인스턴스 출시를 발표했습니다. 양사의 엔지니어링 팀은 NVIDIA NeMo를 A3 인스턴스에 최적화하기 위해 협력했으며, 이를 통해 더 빠른 학습과 추론이 가능해졌습니다.

HuggingFace

데이터 선별 파이프라인 가속화를 위한 주요 AI 커뮤니티

AI 개발자를 위한 대표적인 오픈 플랫폼인 Hugging Face는 NVIDIA와 협력해 NeMo Curator를 통합하고, 데이터 필터링 및 중복 제거를 위한 라이브러리인 DataTrove의 속도를 높이고 있습니다. “NeMo Curator의 GPU 가속화 기능에 큰 기대를 걸고 있으며, 이 기능이 DataTrove에 더해질 날이 기다려집니다!” Hugging Face의 제품 디렉터인 Jeff Boudier는 이렇게 말했습니다.

KT

LLM을 통한 새로운 고객 경험 창출

한국의 대표 이동통신사는 NVIDIA DGX SuperPOD 플랫폼과 NeMo 프레임워크를 활용해 수십억 개 매개변수를 가진 LLM을 구축하고, 이를 스마트 스피커와 고객 상담 센터에 적용하고 있습니다.

Lenovo

LLM 기반의 생성형 AI를 위한 새로운 레퍼런스 아키텍처

글로벌 파트너와 고객이 최고의 안전과 효율성으로 산업 분야 전반에 걸쳐 규모별 AI를 개발, 훈련 및 배포할 수 있도록 지원하여 혁신을 촉진하는 솔루션입니다.

Quantiphi

엔터프라이즈의 AI 기반 여정 가속화 지원

Quantiphi는 NVIDIA NeMo 프레임워크를 사용하여 기초 모델을 훈련하고 파인튜닝하는 것에 특화되어 있는 것은 물론, NVIDIA AI Enterprise 소프트웨어 플랫폼을 통해 규모별 배포를 최적화하는 동시에 책임 있는 AI 원칙을 준수합니다.

SAP

SAP와 NVIDIA가 글로벌 산업을 지원하는 엔터프라이즈 애플리케이션 전반에서 생성형 AI 도입을 가속화하다

고객은 NVIDIA AI 파운드리 서비스 및 NVIDIA NIM 마이크로서비스를 통해 배포된 맞춤형 LLM을 사용하여 SAP의 클라우드 솔루션에서 비즈니스 데이터를 활용할 수 있습니다.

ServiceNow

엔터프라이즈 IT 전반에서 생성형 AI 구축

ServiceNow는 ServiceNow 플랫폼에서 맞춤형 LLM을 개발하여 지능형 워크플로우 자동화를 지원하고 엔터프라이즈 IT 프로세스 전반에서의 생산성을 향상합니다.

perplexity

AI 기반 검색 엔진을 위한 모델 성능 향상

Perplexity는 NVIDIA NeMo를 사용하여 프런티어 모델을 신속하게 맞춤화하여 검색 결과의 정확도와 품질을 향상시키고, 더 나은 사용자 경험을 위해 낮은 지연 시간과 높은 처리량을 달성할 수 있도록 이 모델을 최적화하는 것을 목표로 하고 있습니다.

VMware

VMware와 NVIDIA가 엔터프라이즈를 위한 생성형 AI의 새로운 차원을 열다

NVIDIA와 함께하는 VMware Private AI Foundation을 통해 엔터프라이즈에서는 모델을 맞춤화하고 지능형 챗봇, 어시스턴트, 검색 및 요약을 포함한 생성형 AI 애플리케이션을 실행할 수 있습니다.

Weight & Biases

LLM 파이프라인을 디버깅하고, 최적화하며, 모니터링하다

Weights & Biases는 생성형 AI 사용 사례를 진행하거나 LLM을 활용하는 팀이 모든 프롬프트 엔지니어링 실험을 추적하고 시각화할 수 있도록 지원합니다. 또한 LLM 파이프라인을 디버깅하고 최적화할 수 있도록 도우며, LLM 운영에 필요한 모니터링과 관찰 기능도 제공합니다.

Writer

스타트업, NVIDIA NeMo와 함께 생성형 AI 성공 스토리를 써 내려가다

Writer는 NVIDIA NeMo를 사용하여 수백 개의 기업이 마케팅, 교육, 지원 등의 전반에 걸쳐 엔터프라이즈 사용 사례를 위한 맞춤형 콘텐츠를 제작할 수 있도록 지원하는 LLM을 구축하고 있습니다. 

Arize

Arize, 자체 개선 AI 데이터 플라이휠 구동

Arize의 LLM 엔지니어링 및 관찰 가능성 플랫폼은 NVIDIA NeMo 마이크로서비스를 통합하여 AI 데이터 플라이휠을 구동하며, 실제 피드백을 통한 지속적인 모델 개선을 가능하게 합니다. Arize는 NeMo Customizer, Evaluator, Guardrails를 통해 에이전틱 시스템의 성능과 안전성을 보장하며, 진화하는 엔터프라이즈 요구 사항에 부합하도록 합니다. 이러한 협업은 시간이 지남에 따라 학습하고 진화하는 적응형 AI의 개발을 지원합니다.

DataRobot

DataRobot에서 NeMo를 사용하여 엔터프라이즈 준비가 완료된 신뢰할 수 있는 AI 에이전트를 제공합니다.

NVIDIA NeMo가 DataRobot 엔터프라이즈 AI 제품군에 임베디드되어 기업은 에이전틱 시스템이 안전하고, 규정을 준수하며, 엔터프라이즈별 데이터를 기반으로 하도록 보장할 수 있습니다. 이러한 통합을 통해 조직의 표준을 준수하면서 정확한 상황에 맞는 응답을 제공하는 AI 에이전트를 개발할 수 있습니다.

Datastax

DataStax와 NVIDIA, 데이터 및 AI 플랫폼 구축

지난 1년 동안 DataStax는 NVIDIA와 협력해 NVIDIA NeMo 마이크로서비스를 도입하고, 자사 데이터베이스 및 AI 솔루션 전반에 걸쳐 생성형 AI, RAG(검색 기반 생성), 하이브리드 검색 기능을 강화해 왔습니다. 그 결과, 처리량은 19배 향상됐고, 비용은 크게 절감되었으며, 지연 시간도 개선되는 성과를 얻었습니다.

Galileo

Galileo 및 NVIDIA NeMo: 프로덕션에서 에이전틱 AI의 위험 제거

Galileo는 NVIDIA NeMo 마이크로서비스를 통합하여 에이전트 성능, 신뢰성, 신뢰를 강화하는 AI 데이터 플라이휠을 구축합니다. NeMo는 Galileo 플랫폼에 보완 기능을 추가하여 NeMo Customizer를 통한 지속적인 도메인별 파인튜닝, NeMo Evaluator를 통한 고급 평가 및 NeMo Guardrails를 통한 사용자 상호작용을 보호함으로써 AI 팀이 실제 환경에서 지속적으로 학습하고 개선하는 에이전틱 AI 시스템을 구축, 평가 및 모니터링할 수 있도록 지원합니다.

생성형 AI 모델 구축 및 배포

기업들은 생성형 AI를 활용해 혁신을 이루고, 운영을 최적화하며, 경쟁 우위를 강화하는 방식을 근본적으로 변화시키고 있습니다. NeMo는 다중 모드 모델의 훈련, 맞춤화, 평가 등의 데이터 큐레이션 및 대규모 추론 실행을 위한 엔드투엔드 플랫폼입니다. 텍스트, 이미지, 비디오 및 음성 생성을 지원합니다.

Llama 3.1을 사용하여 합성 데이터 생성

Meta Llama 3.1 405B 모델을 사용하여 특정 도메인에 맞는 맞춤형 합성 데이터를 생성하는 방법을 알아보고, Nemotron-4 340B 보상 모델을 사용하여 이러한 데이터를 평가하고, NVIDIA NeMo를 통해 인간의 선호도와 일치하는 방법을 살펴보세요.

RAG를 사용하여 고객 서비스를 위한 세계적 수준의 AI 가상 어시스턴트 구축

기업이 고객 서비스를 위한 AI 가상 어시스턴트(Virtual Assistant) NVIDIA AI Blueprint를 활용하여 기존 콜센터 솔루션의 운영 효율성을 개선하거나 새로운 고객 서비스 중심 시스템을 구축하는 방법을 알아보세요.