생성형 AI

NVIDIA NeMo

대규모 언어 모델을 구축, 맞춤화, 배포하세요.

NVIDIA NeMo란 무엇인가요?

NVIDIA NeMo™는 어디서든 생성형 AI 모델을 구축, 맞춤화, 배포할 수 있는 엔드 투 엔드 클라우드 기반 프레임워크입니다. 여기에는 훈련 및 추론 프레임워크, 가드레일 툴킷, 데이터 큐레이션 도구 및 사전 훈련된 모델이 포함되어 기업이 생성형 AI를 쉽고 비용 효율적이며 빠르게 채택할 수 있는 방법을 제공합니다.

생성형 AI 모델 구축 및 배포

NVIDIA NeMo의 이점을 살펴보세요.

엔드 투 엔드

데이터 처리에서 트레이닝, 생성형 AI 모델의 추론에 이르는 LLM 파이프라인 전반의 완전한 솔루션입니다.

엔터프라이즈급

NVIDIA AI Enterprise 의 일부로 제공되는 지원, 보안 및 API 안정성을 통해 엔터프라이즈를 가속화하도록 설계된 안전하고 최적화된 풀 스택 솔루션입니다.

ROI 증가

NeMo를 통해 조직은 LLM을 규모별로 빠르게 훈련하고, 맞춤화하고, 배포하여 솔루션 구축 시간을 단축하고 투자 수익률을 높일 수 있습니다.

유연성

데이터를 선별하고, 매개변수가 최대 수조 개에 달하는 대규모 모델을 트레이닝하며, 추론을 통해 배포하는 기능을 갖춘 엔드 투 엔드 프레임워크입니다.

오픈 소스

GitHub 및 NVIDIA NGC 소프트웨어 카탈로그를통해 오픈 소스로 제공되므로 개발자와 연구원이 새로운 LLM을 더 쉽게 만들 수 있습니다.

훈련 및 추론 가속화

멀티 노드 및 멀티 GPU 트레이닝 및 추론을 통해 처리량을 극대화하고 LLM 트레이닝 시간을 최소화합니다.

엔터프라이즈용으로 준비된 대규모 언어 모델 구축을 위한 완벽한 솔루션

생성형 AI 모델과 그 개발이 빠르게 진화하고 확장됨에 따라 AI 스택과 종속성의 복잡성이 커집니다. AI 비즈니스를 운영하는 엔터프라이즈를 위해 NVIDIA AI Enterprise 는 NeMo를 포함하는 프로덕션급의 안전한 엔드 투 엔드 소프트웨어 플랫폼과 생성형 AI 레퍼런스 애플리케이션 및 엔터프라이즈 지원을 제공하여 채택을 간소화합니다.

최첨단 훈련 기법

NeMo는 고급 확장, 속도, 효율성을 지원하는 LLM용 분산 훈련을 위한 도구를 제공합니다.

고급 LLM 맞춤화 도구

NeMo Retriever를 통해 실시간 도메인별 데이터를 통합하세요. 이를 통해 비즈니스의 고유한 과제에 대한 맞춤형 대응을 용이하게 하고 특정 고객 및 엔터프라이즈의 요구 사항을 해결하는 전문 기술을 임베딩할 수 있습니다.

NeMo Guardrails 는 모델이 의도한 도메인 내에 머무르고 부적절한 출력을 피할 수 있도록 운영 경계를 정의하는 데 도움이 됩니다.

NVIDIA Triton을 통한 최적화된 AI 추론

NVIDIA Triton Inference Server를 사용하여 강력한 최적화 기능을 갖춘 생성형 AI 모델을 배포하세요. Triton Management Service를 사용하여 리소스 효율적인 모델 오케스트레이션을 통해 Kubernetes에서 다중 Triton Inference Server 인스턴스 배포를 자동화합니다.

생성형 AI를 위한 사용하기 쉬운 레시피 및 도구

NeMo는 전체 파이프라인에서 사전 패키징된 스크립트, 참조 예제, 문서로 생성형 AI를 처음부터 가능하게 합니다.

또한 최고의 하이퍼 매개 변수 구성을 자동으로 검색하여 주어진 멀티 GPU 구성, 훈련 또는 배포 제약 조건에 대한 훈련 및 추론을 최적화하는 자동 구성 도구를 통해 기초 모델을 쉽게 구축할 수 있습니다.

동급 최고의 사전 훈련된 기초 모델

NeMo 및 NVIDIA AI Foundation 모델을 사용하여 맞춤형 엔터프라이즈 모델을 구축하세요. 커뮤니티와 NVIDIA에서는 개발자가 맞춤형 모델을 더 빠르게 만들 수 있도록 사전 훈련된 모델을 구축했습니다. 이러한 NVIDIA 최적화 모델은 최신 훈련 및 추론 기법을 통합하여 최고의 성능을 달성합니다.

최적화된 검색 증강 생성

엔터프라이즈 데이터 소스에서 정보와 인사이트를 가져오는 강력한 생성형 AI 애플리케이션을 구축합니다. NeMo Retriever는 고객이 가속화된 엔터프라이즈 AI 애플리케이션을 구축할 수 있도록 상용 준비가 완료된 NVIDIA AI 파운데이션 모델 및 마이크로서비스를 제공합니다.

최적화된 검색 증강 생성 최적화된 검색 증강 생성 최적화된 검색 증강 생성 최적화된 검색 증강 생성

NVIDIA NeMo 시작하기

NVIDIA NeMo 프레임워크 다운로드

트레이닝 및 추론 도구에 즉시 액세스하여 엔터프라이즈에서 생성형 AI 모델을 쉽고 비용 효율적이며 빠르게 개발할 수 있습니다.

검색 증강 생성 기능을 갖춘 AI 챗봇

이 워크플로우는 실시간 정보를 사용하여 응답을 정확하게 생성하는 엔터프라이즈 솔루션의 구축 및 배포를 가속화합니다.

즉각적인 생성형 AI 모델 경험해보기

API를 사용하는 사용하기 쉬운 인터페이스 또는 브라우저의 사용자 인터페이스를 갖춘 NVIDIA AI Foundation 모델을 사용해 보세요.

NeMo 프레임워크 멀티모달 얼리 액세스 신청하기

수십억 개의 매개변수가 있는 멀티모달 생성형 AI 모델을 구축, 맞춤화, 배포할 수 있습니다. 신청서 검토에는 2주 이상이 걸릴 수 있습니다.

NVIDIA AI Workbench 얼리 액세스 등록하기

사용이 간편한 통합 툴킷을 통해 개발자는 PC나 워크스테이션에서 사전 훈련된 생성형 AI 모델 및 LLM을 빠르게 생성, 테스트하고 맞춤화한 다음 대부분의 데이터센터, 퍼블릭 클라우드 또는 NVIDIA DGX 클라우드로 확장할 수 있습니다.

NVIDIA NeMo 서비스 얼리 액세스 등록하기

NVIDIA NeMo 서비스에 대한 얼리 액세스를 신청하여 엔터프라이즈 AI 애플리케이션용 LLM을 완전 개인화하고 규모별로 배포하세요.

산업 분야의 선도적인 도입자

NeMo 리소스 확인하기

NeMo 및 최신 업데이트 소개

NVIDIA에서는 최근 NeMo의 일반 버전 출시를 발표했습니다. 새로운 기능을 알아보고 규모별 LLM 구축, 맞춤화 및 배포를 시작하려면 블로그를 확인하세요.

NeMo 문서 시작하기

튜토리얼, Jupyter 노트북, 설명서를 포함하여 NVIDIA NeMo를 시작하는 데 필요한 모든 것을 받아보세요.

LLM에 대한 테크니컬 블로그 살펴보기

NeMo에 대한 기술 상세 설명을 읽고 생성형 AI 모델을 규모에 맞게 구축, 맞춤화, 배포하는 방법을 알아보세요.

LLM 엔터프라이즈 전자책 다운로드

작동 방식, 가능성, 실제 사례 연구를 포함하여 LLM에 대해 알아야 할 모든 것을 알아보세요.

NVIDIA NeMo 시작하기

AI Sweden

LLM을 통한 산업 애플리케이션 가속화

AI Sweden은 강력한 1,000억 개 매개 변수 모델에 대한 간편한 액세스를 제공하여 지역별 언어 모델 애플리케이션을 용이하게 만들었습니다. 이들은 역사적 기록을 디지털화하여 상업적 용도의 언어 모델을 개발했습니다.

Amdocs

글로벌 통신 업계에 맞춤형 생성형 AI를 제공하는 NVIDIA와 Amdocs

Amdocs는 Microsoft Azure의 NVIDIA AI 파운드리 서비스를 사용하여 1조 7천억 달러 규모의 글로벌 통신 산업을 위한 맞춤형 LLM을 구축할 계획입니다.

Dropbox

수백만 명의 고객에게 개인화된 생성형 AI를 제공하는 Dropbox와 NVIDIA

Dropbox는 NVIDIA의 AI 파운드리를 활용해 맞춤형 모델을 구축하고 범용 검색 도구인 Dropbox Dash와 Dropbox AI를 통해 AI 기반 지식 작업을 개선할 계획입니다.

KT

LLM을 통한 새로운 고객 경험 창출

한국의 선도적인 모바일 운영자는 NVIDIA DGX SuperPOD 플랫폼과 NeMo 프레임워크로 훈련된 10억 개 매개 변수의 LLM을 구축하여 스마트 스피커와 고객 콜센터를 지원합니다.

Palo Alto Networks

Bringing Generative AI to Cybersecurity

Palo Alto Networks builds security copilot enabling customers to use its platform to the best of its capabilities, optimizing security, configuration, and operations.

ServiceNow

엔터프라이즈 IT 전반에서 생성형 AI 구축

ServiceNow는 ServiceNow 플랫폼에서 맞춤형 LLM을 개발하여 지능형 워크플로우 자동화를 지원하고 엔터프라이즈 IT 프로세스 전반에서의 생산성을 향상합니다.

Writer

NVIDIA NeMo와 함께 생성형 AI 성공 사례를 써 내려가는 스타트업

Writer는 NVIDIA NeMo를 사용하여 수백 개의 기업이 마케팅, 교육, 지원 등 다양한 분야에서 엔터프라이즈 사용 사례를 위한 맞춤형 콘텐츠를 제작할 수 있도록 지원하는 LLM을 구축하고 있습니다.

AWS

NVIDIA, 최대 규모의 Amazon Titan 파운데이션 모델에 대한 트레이닝 지원

아마존은 차세대 LLM을 트레이닝하기 위해 NVIDIA NeMo 프레임워크, GPU 및 AWS EFA를 활용하여 일부 최대 규모의 Amazon Titan 파운데이션 모델 고객에게 생성형 AI를 위한 보다 빠르고 접근성이 뛰어난 솔루션을 제공했습니다.

Azure

Azure Machine Learning에서 NVIDIA AI Enterprise의 성능 활용하기

Microsoft Azure에서 엔터프라이즈 환경에 맞춤화된 도구, 라이브러리, 프레임워크 및 지원 서비스로 구성된 완전한 에코시스템에 액세스하세요.

Dell

Dell, NVIDIA와 함께 생성형 AI의 설계 검증

Dell Technologies와 NVIDIA는 기업이 온프레미스에서 생성형 AI 모델을 빠르고 안전하게 구축하고 사용할 수 있도록 지원하기 위한 이니셔티브를 발표했습니다.

Deloitte

엔터프라이즈 소프트웨어 플랫폼 전반에서 생성형 AI의 가치 실현

Deloitte는 NVIDIA AI 기술과 전문 지식을 활용하여 엔터프라이즈 소프트웨어 플랫폼을 위한 고성능 생성형 AI 솔루션을 구축하여 상당한 비즈니스 가치를 창출할 것입니다.

Domino Data Lab

Domino, NVIDIA 기반의 프로덕션 준비를 마친 생성형 AI 제공

NVIDIA NeMo를 사용하면 데이터 사이언티스트는 처음부터 시작할 필요 없이 독점 데이터 및 IP를 기반으로 도메인별 사용 사례에 맞게 Domino 플랫폼에서 LLM을 미세 조정할 수 있습니다.

Google Cloud

AI 분야의 거물들이 생성형 AI를 활용하기 위해 협업하다

Next 컨퍼런스에서 Google Cloud는 NVIDIA H100 Tensor 코어 GPU 기반 A3 인스턴스의 가용성을 발표했습니다. 양사의 엔지니어링 팀은 더 빠른 훈련 및 추론을 위해 NVIDIA NeMo를 A3 인스턴스에 도입하기 위한 협업을 진행했습니다.

Lenovo

LLM 기반의 생성형 AI를 위한 새로운 레퍼런스 아키텍처

글로벌 파트너와 고객이 최고의 안전과 효율성으로 산업 분야 전반에 걸쳐 규모별 AI를 개발, 훈련 및 배포할 수 있도록 지원하여 혁신을 촉진하는 솔루션입니다.

Quantiphi

엔터프라이즈의 AI 기반 여정 가속화 지원

Quantiphi는 NVIDIA NeMo 프레임워크를 사용하여 기초 모델을 훈련하고 미세 조정하는 것에 특화되어 있는 것은 물론, NVIDIA AI Enterprise 소프트웨어 플랫폼을 통해 규모별 배포를 최적화하는 동시에 책임 있는 AI 원칙을 준수합니다.

VMware

VMware와 NVIDIA가 엔터프라이즈를 위한 생성형 AI의 새로운 차원을 열다

NVIDIA와 함께하는 VMware Private AI Foundation을 통해 엔터프라이즈에서는 모델을 맞춤화하고 지능형 챗봇, 어시스턴트, 검색 및 요약을 포함한 생성형 AI 애플리케이션을 실행할 수 있습니다.

Weight & Biases

LLM 파이프라인 디버깅, 최적화 및 모니터링

Weights & Biases는 생성형 AI 사용 사례 또는 LLM으로 작업하는 팀이 모든 프롬프트 엔지니어링 실험을 추적 및 시각화하여 사용자가 LLM 파이프라인을 디버깅 및 최적화하는 데 도움을 줄 뿐 아니라 LLM에 대한 모니터링 및 관찰 기능을 제공합니다.