NVIDIA NeMo

라이프 사이클 전반에 걸쳐 엔터프라이즈 규모로 AI 에이전트를 구축, 모니터링 및 최적화하다 위한 포괄적인 소프트웨어 제품군입니다.

개요

NVIDIA NeMo란 무엇인가요?

NVIDIA NeMo™는 AI 에이전트 라이프 사이클을 관리하기 위한 모듈형 소프트웨어 제품군입니다. 데이터 처리, 모델 파인튜닝 및 평가, 강화 학습, 정책 시행, 시스템 가시성을 위한 마이크로서비스와 툴킷을 제공합니다. NeMo는 기업이 모든 GPU 가속 인프라에서 에이전틱 AI 시스템을 대규모로 구축, 모니터링 및 최적화하다 수 있도록 지원합니다. 기존 AI 플랫폼과 통합되며 클라우드, 온프레미스, 하이브리드 배포를 지원하여 기업이 AI 에이전트를 지속적으로 최적화하다 데이터 플라이휠을 빠르게 관리하고 손쉽게 생성할 수 있도록 지원합니다.

데이터 플라이휠 구축을 위한 새로운 NVIDIA AI Blueprint

이제 제공되는 이 새로운 AI Blueprint는 개발자가 더 정확하고 효율적인 모델을 바탕으로, 생성형 및 에이전트형 AI 애플리케이션을 지속적으로 개선할 수 있는 자동화된 데이터 플라이휠을 구축하도록 돕습니다.

이점

에이전틱 AI를 위한 NVIDIA NeMo의 이점 살펴보기

모듈형 AI 에이전트 라이프 사이클 관리

상호 운용 가능한 엔터프라이즈급 소프트웨어 제품군을 사용하여 데이터 큐레이션, 맞춤화, 평가부터 가드레일, 가시성 및 최적화에 이르기까지 AI 에이전트 라이프 사이클을 관리하세요.

원활한 배포 및 확장

엔터프라이즈 데이터를 활용하여 AI 에이전트를 개선하는 데이터 플라이휠을 손쉽게 구축하여, 워크플로우의 다양한 부분을 위한 간단한 Helm 차트 배포 또는 API 호출로 전체 플라이휠을 구동하세요.

ROI 증가

거대 언어 모델(LLM), 비전 언어 모델(VLM), 영상 AI, 음성 AI를 대규모로 빠르게 훈련, 맞춤화 및 배포하다 솔루션 개발 시간을 단축하고 ROI를 높일 수 있습니다.

가속화된 성능

비용 효율적인 훈련, 배포, 지속적인 개선을 위한 GPU 가속 최적화, 멀티 노드 확장, 조정을 통해 AI 에이전트 성능과 처리량을 극대화하세요.

더 안전한 에이전틱 AI

모델 검증, 프롬프트 가이드라인 설정 및 지속적인 취약점 모니터링을 통해 더욱 안전한 에이전틱 AI 시스템을 구축할 수 있습니다.

프로덕션 레디

NVIDIA AI Enterprise의 일부로 지원, 보안, API 안정성을 제공하는 안전한 최적화된 풀스택 솔루션으로 프로덕션에 배포하다.

클라우드 및 데이터 센터부터 엣지에 이르기까지 어디에서나 AI 에이전트를 구축, 모니터링 및 최적화하다.

기능

AI 에이전트 라이프사이클 관리를 위한 도구

AI 에이전트 라이프 사이클은 프로덕션 애플리케이션에서 AI 에이전트를 개발하고 개선하기 위한 엔드투엔드 프로세스입니다. NVIDIA NeMo는 이러한 워크플로우의 각 단계를 지원하는 도구를 제공하여 기업이 강력하고 안전하며 지속적으로 학습하는 에이전트를 구축할 수 있도록 지원합니다.

구축
AI 개발에 적합한 데이터 준비

기존의 멀티모달 데이터셋을 고품질의 AI 개발용 포맷으로 가공하고, 부족한 데이터를 보완하기 위해 합성 데이터를 생성할 수 있습니다.
  • NeMo Curator
    멀티모달 데이터를 정리하고, 필터링하고, 준비하세요.
  • NeMo Data Designer
    처음부터 도메인별 데이터세트를 생성하세요.
적합한 모델 선택

사용 사례에 맞는 모델을 선택하거나 새로 만들고, 학술 벤치마크로 성능을 검증한 뒤, 필요에 따라 커스텀 평가를 수행하고 모델을 파인튜닝합니다.
  • NVIDIA Nemotron
    최첨단 개방형 멀티모달 추론 모델.
  • NeMo Retriever
    RAG 파이프라인을 위한 모델 추출, 임베딩, 재정렬.
  • NeMo Evaluator
    모델과 에이전트를 벤치마킹, 테스트 및 평가하세요.
AI 에이전트 구축

맞춤형 모델을 확장 가능한 애플리케이션으로 전환하고, 엔터프라이즈 스택 및 도구에 원활하게 연결하며, 유연한 오케스트레이션으로 워크플로우를 정의하세요.
  • NeMo 에이전트 툴킷
    AI 에이전트를 구축, 프로파일링 및 최적화하기 위한 프레임워크에 종속되지 않은 툴킷입니다.
배포
에이전트를 최고 성능으로 배포하다

고처리량, 저지연 추론을 통해 프로덕션에 맞게 에이전트를 최적화하다 엔터프라이즈 요구 사항을 충족하고 빠르고 신뢰할 수 있는 응답을 제공할 수 있도록 확장하세요.
  • NVIDIA NIM
    OpenAI 호환 API로 노출된 최적화된 컨테이너에서 AI 모델을 실행하세요.
신뢰할 수 있는 데이터 기반 유지 및 안전장치 적용

RAG(검색 기반 생성)를 활용해 에이전트의 응답이 검증된 지식에 기반하도록 하고, 동시에 안전성, 규제 준수, 콘텐츠 검열 등의 가이드라인을 적용해 신뢰성과 책임감을 높입니다.
  • NeMo Retriever
    정확하고 개인 정보 보호 RAG 파이프라인을 구축하세요.
  • NeMo Guardrails
    AI와의 모든 상호작용에 걸쳐 안전성, 규제 준수, 통제 기준을 철저히 적용합니다.
최적화
모니터링 및 피드백 수집

에이전트가 사용자 및 기타 시스템과 실제 상호작용을 추적합니다. 성능과 정확도를 체계적으로 평가하여 지속적으로 개선의 기회를 찾습니다.
  • NeMo 에이전트 툴킷
    AI 에이전트를 구축, 프로파일링 및 최적화하다 위한 프레임워크에 종속되지 않은 툴킷입니다.
  • NeMo Customizer
    파인튜닝하고 도메인 데이터에 맞게 정렬하세요.
  • NeMo 프레임워크
    LLM과 멀티모달 모델의 훈련 및 정렬을 위한 오픈 소스 툴킷입니다.
데이터 플라이휠로 지속적인 개선

모니터링을 통해 수집한 피드백과 데이터를 바탕으로 데이터 중심의 플라이휠을 구축하고, 이를 반복 학습에 활용해 에이전트 성능을 꾸준히 최적화하고 유지합니다.
  • NeMo RL
    고급 강화 학습 기법을 사용하여 거대 모델을 사후 훈련하고 정렬하세요.
  • NeMo Evaluator
    모델과 에이전트를 벤치마킹, 테스트 및 평가하세요.
  • NeMo Customizer 모델을
    파인튜닝하고 도메인 데이터에 맞게 정렬하세요.

사용 사례

NeMo가 사용 사례

NVIDIA NeMo가 업계 사용 사례를 지원하고 AI 개발을 빠르게 시작하는 방법을 알아보세요.

AI 에이전트

AI 에이전트는 다양한 산업의 고객 서비스를 혁신하고 있습니다. 고객과의 대화를 더 효과적으로 만들고, 문제 해결률을 높이며, 상담원의 업무 효율까지 향상시키는 데 큰 도움을 주고 있습니다. AI 에이전트는 예측 작업을 수행하고, 추론과 문제 해결 능력을 갖추며, 산업별 용어를 이해하도록 학습시킬 수 있습니다. 또한 데이터가 어디에 있든 조직 내 지식 기반에서 필요한 정보를 찾아 활용할 수 있습니다.

에이전틱 AI를 위한 합성 데이터 생성

특화된 에이전틱 시스템에는 실제 소스에서 수집하는 데 시간이 오래 걸리고 비용이 많이 드는 대규모 고품질 데이터셋이 필요합니다. 시뮬레이션이나 생성형 AI 모델을 통해 생성된 합성 데이터는 개인정보 보호 제한이나 품질 문제 없이 무제한의 학습 시나리오를 생성하여 이러한 병목 현상을 해소할 수 있습니다. 이를 통해 추론 LLM, 다단계 의사 결정자, 멀티모달 AI 어시스턴트를 더 빠르게 개발할 수 있습니다.

AI 어시스턴트

기업들은 수백만 명의 고객과 직원의 문의를 24시간 효율적으로 해결하기 위해 AI 어시스턴트를 배포하고 있습니다. LLM, RAG, 음성 및 번역 AI를 위한 맞춤형 NVIDIA NIM 마이크로서비스를 기반으로 한 이러한 AI 팀원들은 배경 소음, 저조한 음질, 다양한 방언과 억양이 있는 상황에서도 즉각적이고 정확한 음성 응답을 제공합니다.

정보 검색

매년 수조 개에 달하는 PDF 파일이 생성되고 있으며, 각 파일은 텍스트, 이미지, 차트, 표 등 다양한 콘텐츠 유형으로 채워진 여러 페이지로 구성되어 있을 가능성이 높습니다. 방대한 양의 데이터는 사람이 이를 얼마나 빠르게 읽고 이해하느냐에 따라 활용 가능성이 제한됩니다. 그러나 생성형 AI와 RAG를 사용하면 이러한 미개발 데이터를 활용하여 직원들이 더 효율적으로 일하고 비용을 절감하는 데 도움이 되는 비즈니스 인사이트를 이끌어낼 수 있습니다.

콘텐츠 생성

생성형 AI를 사용하면 기업의 도메인 전문성과 독점 IP에 기반한 관련성이 높고 맞춤화되고 정확한 콘텐츠를 생성할 수 있습니다.

휴머노이드 로봇

휴머노이드 로봇은 인간 중심의 도시 및 산업 근무 현장에 재빨리 적응하여 지루하고 반복적이거나 물리적으로 큰 힘이 필요한 작업을 수행하도록 제작되었습니다. 이러한 로봇은 공장 현장, 의료 시설에 이르기까지 다양한 장소에서 활용되고 있으며, 이러한 로봇은 인간을 보조하고 자동화를 통해 인력 부족을 완화하는 데 기여하고 있습니다.

Apptronik

시작 옵션

NVIDIA NeMo를 시작하는 방법

프로덕션 환경에서 AI 에이전트를 구축하고 모니터링하며 최적화할 수 있는 다양한 도구와 기술로 전체 라이프사이클을 관리할 수 있습니다.

1

NVIDIA Nemotron과 같은 NVIDIA 최적화 파운데이션 모델을 사용해 보세요.

2

NVIDIA NeMo를 활용하여 AI 에이전트를 구축, 모니터링 및 최적화하세요.

3

NVIDIA Blueprint로 AI 솔루션 구축을 빠르게 시작해 보세요.

고객 사례

업계 리더들이 NeMo로 혁신을 주도하는 방법

채택 업체

솔루션을 도입한 다양한 분야의 주요 기업들

리소스

NVIDIA NeMo 리소스의 최신 소식

LLM 맞춤화 시작하기

이 과정에서는 프롬프트 엔지니어링 LLM을 넘어 특정 사용 사례에 맞게 사전 훈련된 LLM을 효율적으로 맞춤화하는 기술을 배우게 됩니다. NVIDIA NIM 마이크로서비스, NeMo Curator, NeMo 프레임워크를 사용하여 조직에 맞게 LLM 동작을 맞춤화하기 위한 다양한 매개변수 효율적인 조정 방법을 배우게 됩니다.

LLM 기술 향상

NVIDIA 전문가가 개발하여 제공하는 실습 교육을 특징으로 하는 기초에서 고급 주제까지 모두 다루는 종합적인 LLM 학습 과정을 활용하세요. 자율적으로 유연하게 학습할 수 있는 과정을 선택하거나 강사 주도 워크숍에 등록하여 역량 인증서를 취득할 수 있습니다.

NVIDIA 인증 취득하기

NVIDIA 인증을 취득하여 자신의 생성형 AI 기술을 입증하고 경력을 발전시키세요. NVIDIA의 새로운 전문가 인증 프로그램은 거대 언어 모델(LLM)의 숙련도 및 다중 모드 워크플로우 기술에 초점을 맞춘 두 가지 개발자 시험을 제공합니다.

주말 동안 추론 능력을 갖춘 LLM 학습하기

Llama Nemotron 후처리 데이터셋과 NVIDIA NeMo에서 선별한 소량의 학습 데이터를 사용해, 추론 모델을 간단하고 효율적으로 학습시키는 방법을 소개합니다.

데이터 플라이휠을 사용한 AI 에이전트 최적화

NeMo와 NIM 마이크로서비스 기반의 NVIDIA 데이터 플라이휠 Blueprint를 활용해, 실제 운영 환경에서 AI 에이전트를 어떻게 최적화할 수 있는지 알아보세요. 이 Blueprint는 지식 증류, 파인튜닝, 평가를 반복하는 지속적인 개선 루프를 중심으로 구성되어 있습니다.

NeMo Agent 오픈 소스 툴킷을 사용한 AI 에이전트 구축하기

NVIDIA NeMo Agent 오픈 소스 Python 툴킷을 사용하여 맞춤형 AI 에이전트를 구축, 통합 및 최적화하는 방법을 알아보세요.

다음 단계

시작할 준비가 되셨나요?

적절한 도구와 기술을 활용해 에이전트형 AI 애플리케이션을 개발 단계에서 실제 운영 환경까지 원활하게 전환하세요.

개발자 리소스

최신 문서, 튜토리얼, 기술 블로그 등을 포함하여 NVIDIA NeMo로 개발을 시작하는 데 필요한 모든 것을 살펴보세요.

문의하기

NVIDIA AI Enterprise가 제공하는 보안, API 안정성, 기술 지원을 바탕으로, 파일럿 단계에서 운영 환경으로의 전환에 대해 NVIDIA 제품 전문가와 상담해보세요.

Shell

Shell, NVIDIA NeMo로 맞춤형 AI 챗봇을 훈련하여 운영 수준 향상

에너지 산업의 글로벌 리더인 Shell은 NVIDIA NeMo™를 활용하여 화학 분야 전문 지식을 갖춘 맞춤형 AI 챗봇 개발 여정을 가속화하고 있습니다. 이 혁신적인 솔루션은 검색을 단순화하고, 의사결정을 개선하며, 생산 환경에서의 연구 개발을 지원함으로써 직원 생산성을 한층 높일 수 있습니다.

AI Sweden

LLM을 통한 산업 애플리케이션 가속화

AI Sweden은 1,000억 개의 매개변수가 있는 강력한 모델에 손쉽게 액세스할 수 있도록 제공하여 지역 언어 모델 애플리케이션을 촉진했습니다. AI Sweden은 상업적 용도의 언어 모델을 개발하기 위해 과거 기록을 디지털화했습니다.

Amazon

판매자가 더 나은 제품 리스트를 생성하도록 Amazon과 NVIDIA가 AI를 통해 지원하는 방법

Amazon은 NVIDIA TensorRT-LLM 및 GPU를 사용하여 새로운 AI 기능의 추론 속도를 두 배로 높여 판매자가 제품 리스트를 더 최적화할 수 있도록 지원합니다.

Amdocs

전 세계 통신 업계에 맞춤 생성형 AI를 제공하는 NVIDIA와 Amdocs

Amdocs는 Microsoft Azure에서 NVIDIA AI 파운드리 서비스를 사용하여 1조 7천억 달러 규모의 글로벌 통신 산업을 위한 맞춤형 LLM을 구축할 계획입니다.

AT&T

AT&T는 NVIDIA NeMo를 통해 고객 관리 AI 에이전트의 정확도, 효율성, 성능을 향상시킵니다.

세계 최대 통신 기업 중 하나인 AT&T는 AI의 파워를 활용하여 고객 관리를 혁신하고 있습니다. 모델 드리프트, 연산 수요 증가, 실시간 데이터 액세스 필요성 등의 문제에 직면한 AT&T는 NVIDIA NeMo™ 마이크로서비스를 활용하여 비용, 속도 및 규정 준수를 최적화하면서 지속적으로 성능을 개선하는 피드백 기반 AI 플랫폼을 구축했습니다.

AWS

NVIDIA, 가장 큰 Amazon Titan 파운데이션 모델을 위한 훈련을 강화

Amazon은 NVIDIA NeMo 프레임워크, GPU, AWS EFA를 활용하여 차세대 LLM을 훈련함으로써 최대 규모의 Amazon Titan 파운데이션 모델 고객에게 생성형 AI를 위한 더 빠르고 접근하기 쉬운 솔루션을 제공했습니다.

Accenture

엔터프라이즈를 위한 생성형 AI 도입을 가속화하다

ServiceNow, NVIDIA, Accenture는 엔터프라이즈 생성형 AI 기능의 개발과 채택을 신속하게 추적하기 위해 설계된 최초의 프로그램인 AI Lighthouse의 출시를 발표했습니다.

Azure

Azure Machine Learning에서 NVIDIA AI Enterprise의 성능 활용하기

Microsoft Azure에서 엔터프라이즈 환경에 맞춤화된 도구, 라이브러리, 프레임워크 및 지원 서비스로 구성된 완전한 에코시스템에 액세스하세요.

Bria

Bria, NVIDIA NeMo와 Picasso를 활용해 기업을 위한 공정하고 신뢰할 수 있는 생성형 AI를 개발하다

텔아비브에 본사를 둔 스타트업 Bria는 시각 생성형 AI 기술을 기업용 제품에 건전하고 투명한 방식으로 도입하려는 기업들을 지원합니다. Bria의 생성형 AI 서비스는 모델의 투명성을 강조하면서, 창작자에 대한 정당한 표기와 저작권 보호까지 고려해 설계됐습니다.

Cohesity

NVIDIA 마이크로서비스, Cohesity를 위해 안전한 엔터프라이즈급 생성형 AI 구현

Cohesity DataProtect 고객은 NVIDIA NIM과 최적화된 모델을 통해 데이터 백업과 아카이브에 생성형 AI 인텔리전스를 추가할 수 있습니다. 이를 통해 Cohesity와 NVIDIA는 모든 Cohesity DataProtect 고객에게 생성형 AI의 강력한 성능을 제공할 수 있습니다. NIM과 NVIDIA 최적화 모델의 성능을 통해 Cohesity DataProtect 고객은 데이터 백업 및 아카이브에서 데이터 기반 통찰력을 활용하여 새로운 수준의 효율성, 혁신, 그리고 성장을 이룰 수 있습니다.

CrowdStrike

사이버보안 분야의 AI 미래를 이끌다

CrowdStrike와 NVIDIA는 가속 컴퓨팅과 생성형 AI를 활용해, 보안 위협에 효과적으로 대응할 수 있도록 설계된 혁신적인 AI 기반 솔루션을 고객에게 제공합니다.

DELL

NVIDIA와 함께 Dell의 생성형 AI 검증 설계

Dell Technologies와 NVIDIA는 기업이 온프레미스 환경에서 생성형 AI 모델을 빠르고 안전하게 구축하고 활용할 수 있도록 지원하는 이니셔티브를 발표했습니다.

Deloitte

엔터프라이즈 소프트웨어 플랫폼 전반에서 생성형 AI의 가치 실현

Deloitte는 NVIDIA의 AI 기술과 전문성을 활용해 기업용 소프트웨어 플랫폼에 최적화된 고성능 생성형 AI 솔루션을 구축하고, 이를 통해 기업이 더 큰 비즈니스 가치를 실현할 수 있도록 지원할 예정입니다.

Domino Data Lab

Domino, NVIDIA 기반의 프로덕션 준비를 마친 생성형 AI 제공

데이터 사이언티스트는 NVIDIA NeMo를 활용하여 Domino의 플랫폼에서 독점 데이터와 IP를 기반으로 도메인별 사용 사례를 위한 LLM을 파인튜닝할 수 있으며, 처음부터 다시 시작할 필요가 없습니다.

Dropbox

Dropbox와 NVIDIA, 수백만 고객에게 맞춤형 생성형 AI 도입

Dropbox는 NVIDIA의 AI 파운드리를 활용하여 맞춤형 모델을 구축하고 Dropbox Dash 범용 검색 도구와 Dropbox AI를 통해 AI 기반 지식 작업을 개선할 계획입니다.

Google Cloud

AI 주요 기업들, 생성형 AI를 활용하기 위해 협력하다

Google Cloud는 Next 컨퍼런스에서 NVIDIA H100 텐서 코어 GPU 기반의 A3 인스턴스 출시를 발표했습니다. 양사의 엔지니어링 팀은 NVIDIA NeMo를 A3 인스턴스에 최적화하기 위해 협력했으며, 이를 통해 더 빠른 학습과 추론이 가능해졌습니다.

HuggingFace

데이터 선별 파이프라인 가속화를 위한 주요 AI 커뮤니티

AI 개발자를 위한 대표적인 오픈 플랫폼인 Hugging Face는 NVIDIA와 협력해 NeMo Curator를 통합하고, 데이터 필터링 및 중복 제거를 위한 라이브러리인 DataTrove의 속도를 높이고 있습니다. “NeMo Curator의 GPU 가속화 기능에 큰 기대를 걸고 있으며, 이 기능이 DataTrove에 더해질 날이 기다려집니다!” Hugging Face의 제품 디렉터인 Jeff Boudier는 이렇게 말했습니다.

KT

LLM을 통한 새로운 고객 경험 창출

한국의 대표 이동통신사는 NVIDIA DGX SuperPOD 플랫폼과 NeMo 프레임워크를 활용해 수십억 개 매개변수를 가진 LLM을 구축하고, 이를 스마트 스피커와 고객 상담 센터에 적용하고 있습니다.

Lenovo

LLM 기반의 생성형 AI를 위한 새로운 레퍼런스 아키텍처

글로벌 파트너와 고객이 최고의 안전과 효율성으로 산업 분야 전반에 걸쳐 규모별 AI를 개발, 훈련 및 배포할 수 있도록 지원하여 혁신을 촉진하는 솔루션입니다.

Quantiphi

엔터프라이즈의 AI 기반 여정 가속화 지원

Quantiphi는 NVIDIA NeMo 프레임워크를 사용하여 기초 모델을 훈련하고 파인튜닝하는 것에 특화되어 있는 것은 물론, NVIDIA AI Enterprise 소프트웨어 플랫폼을 통해 규모별 배포를 최적화하는 동시에 책임 있는 AI 원칙을 준수합니다.

SAP

SAP와 NVIDIA가 글로벌 산업을 지원하는 엔터프라이즈 애플리케이션 전반에서 생성형 AI 도입을 가속화하다

고객은 NVIDIA AI 파운드리 서비스 및 NVIDIA NIM 마이크로서비스를 통해 배포된 맞춤형 LLM을 사용하여 SAP의 클라우드 솔루션에서 비즈니스 데이터를 활용할 수 있습니다.

ServiceNow

엔터프라이즈 IT 전반에서 생성형 AI 구축

ServiceNow는 ServiceNow 플랫폼에서 맞춤형 LLM을 개발하여 지능형 워크플로우 자동화를 지원하고 엔터프라이즈 IT 프로세스 전반에서의 생산성을 향상합니다.

Perplexity

AI 기반 검색 엔진을 위한 모델 성능 향상

Perplexity는 NVIDIA NeMo를 사용하여 프런티어 모델을 신속하게 맞춤화하여 검색 결과의 정확도와 품질을 향상시키고, 더 나은 사용자 경험을 위해 낮은 지연 시간과 높은 처리량을 달성할 수 있도록 이 모델을 최적화하는 것을 목표로 하고 있습니다.

VMware

VMware와 NVIDIA가 엔터프라이즈를 위한 생성형 AI의 새로운 차원을 열다

NVIDIA와 함께하는 VMware Private AI Foundation을 통해 엔터프라이즈에서는 모델을 맞춤화하고 지능형 챗봇, 어시스턴트, 검색 및 요약을 포함한 생성형 AI 애플리케이션을 실행할 수 있습니다.

Weight & Biases

LLM 파이프라인을 디버깅하고, 최적화하며, 모니터링하다

Weights & Biases는 생성형 AI 사용 사례를 진행하거나 LLM을 활용하는 팀이 모든 프롬프트 엔지니어링 실험을 추적하고 시각화할 수 있도록 지원합니다. 또한 LLM 파이프라인을 디버깅하고 최적화할 수 있도록 도우며, LLM 운영에 필요한 모니터링과 관찰 기능도 제공합니다.

Writer

스타트업, NVIDIA NeMo와 함께 생성형 AI 성공 스토리를 써 내려가다

Writer는 NVIDIA NeMo를 사용하여 수백 개의 기업이 마케팅, 교육, 지원 등의 전반에 걸쳐 엔터프라이즈 사용 사례를 위한 맞춤형 콘텐츠를 제작할 수 있도록 지원하는 LLM을 구축하고 있습니다. 

Arize

Arize, 자체 개선 AI 데이터 플라이휠 구동

Arize의 LLM 엔지니어링 및 관찰 가능성 플랫폼은 NVIDIA NeMo 마이크로서비스를 통합하여 AI 데이터 플라이휠을 구동하며, 실제 피드백을 통한 지속적인 모델 개선을 가능하게 합니다. Arize는 NeMo Customizer, Evaluator, Guardrails를 통해 에이전틱 시스템의 성능과 안전성을 보장하며, 진화하는 엔터프라이즈 요구 사항에 부합하도록 합니다. 이러한 협업은 시간이 지남에 따라 학습하고 진화하는 적응형 AI의 개발을 지원합니다.

DataRobot

DataRobot에서 NeMo를 사용하여 엔터프라이즈 준비가 완료된 신뢰할 수 있는 AI 에이전트를 제공합니다.

NVIDIA NeMo가 DataRobot 엔터프라이즈 AI 제품군에 임베디드되어 기업은 에이전틱 시스템이 안전하고, 규정을 준수하며, 엔터프라이즈별 데이터를 기반으로 하도록 보장할 수 있습니다. 이러한 통합을 통해 조직의 표준을 준수하면서 정확한 상황에 맞는 응답을 제공하는 AI 에이전트를 개발할 수 있습니다.

Datastax

DataStax와 NVIDIA, 데이터 및 AI 플랫폼 구축

지난 1년 동안 DataStax는 NVIDIA와 협력해 NVIDIA NeMo 마이크로서비스를 도입하고, 자사 데이터베이스 및 AI 솔루션 전반에 걸쳐 생성형 AI, RAG(검색 기반 생성), 하이브리드 검색 기능을 강화해 왔습니다. 그 결과, 처리량은 19배 향상됐고, 비용은 크게 절감되었으며, 지연 시간도 개선되는 성과를 얻었습니다.

Galileo

Galileo 및 NVIDIA NeMo: 프로덕션에서 에이전틱 AI의 위험 제거

Galileo는 NVIDIA NeMo 마이크로서비스를 통합하여 에이전트 성능, 신뢰성, 신뢰를 강화하는 AI 데이터 플라이휠을 구축합니다. NeMo는 Galileo 플랫폼에 보완 기능을 추가하여 NeMo Customizer를 통한 지속적인 도메인별 파인튜닝, NeMo Evaluator를 통한 고급 평가 및 NeMo Guardrails를 통한 사용자 상호작용을 보호함으로써 AI 팀이 실제 환경에서 지속적으로 학습하고 개선하는 에이전틱 AI 시스템을 구축, 평가 및 모니터링할 수 있도록 지원합니다.

생성형 AI 모델 구축 및 배포

기업들은 생성형 AI를 활용해 혁신을 이루고, 운영을 최적화하며, 경쟁 우위를 강화하는 방식을 근본적으로 변화시키고 있습니다. NeMo는 다중 모드 모델의 훈련, 맞춤화, 평가 등의 데이터 큐레이션 및 대규모 추론 실행을 위한 엔드투엔드 플랫폼입니다. 텍스트, 이미지, 비디오 및 음성 생성을 지원합니다.

Llama 3.1을 사용하여 합성 데이터 생성

Meta Llama 3.1 405B 모델을 사용하여 특정 도메인에 맞는 맞춤형 합성 데이터를 생성하는 방법을 알아보고, Nemotron-4 340B 보상 모델을 사용하여 이러한 데이터를 평가하고, NVIDIA NeMo를 통해 인간의 선호도와 일치하는 방법을 살펴보세요.

RAG를 사용하여 고객 서비스를 위한 세계적 수준의 AI 가상 어시스턴트 구축

기업이 고객 서비스를 위한 AI 가상 어시스턴트(Virtual Assistant) NVIDIA AI Blueprint를 활용하여 기존 콜센터 솔루션의 운영 효율성을 개선하거나 새로운 고객 서비스 중심 시스템을 구축하는 방법을 알아보세요.