대규모 언어 모델(LLM)

대규모 언어 모델(LLM)은 학습된 지식을 통한 AI 분야의 혁신적인 변화를 약속하며 해당 분야의 큰 발전을 나타냅니다. LLM 크기는 지난 몇 년 동안 매년 10배씩 증가해 왔으며, 이러한 모델의 복잡성 및 크기가 커짐에 따라 기능도 늘어나고 있습니다.

하지만 LLM을 개발 및 유지 관리하기가 어려워 대부분의 기업은 LLM에 접근하기가 어렵습니다.

텍스트 생성

마케팅 카피 및 스토리라인 제작용.

요약

뉴스 및 이메일용.

이미지 생성

브랜드 창작 및 게이밍 캐릭터용.

챗봇

지능형 Q&A 및 실시간 고객 지원용.

코딩

동적 코멘트 달기 및 기능 생성용.

번역

언어 및 위키피디아에서 사용.

NVIDIA NeMo LLM 서비스 살펴보기

엔터프라이즈 AI를 위한 대규모 언어 모델의 성능을 활용하세요.

NeMo LLM 서비스는 NVIDIA AI 플랫폼에서 실행되며, 기업이 프라이빗 클라우드 및 퍼블릭 클라우드에서 LLM을 맞춤화 및 배포하거나 API 서비스를 통해 액세스할 수 있는 가장 빠른 경로를 제공합니다.

NeMo Megatron 자세히 알아보기

세계 최고 수준의 언어 모델을 사용해 보세요.

NeMo LLM 서비스는 NVIDIA Megatron 530B 모델을 클라우드 API로 제공합니다. Playground 또는 REST(Representational State Transfer) API를 통해 530B 모델의 기능을 체험해 보세요.

얼리 액세스 신청하기

NVIDIA NeMo Megatron에 대해 자세히 알아보세요.

NeMo Megatron은 매개변수가 수십억 또는 수조 개인 LLM을 트레이닝 및 배포하기 위한 엔드 투 엔드 프레임워크입니다.

컨테이너화된 프레임워크는 수천 개의 GPU 전반적으로 트레이닝 효율성이 높고 기업이 현실에서 대규모 모델을 구축 및 배포할 수 있습니다. 이 시스템은 복수의 GPU 및 노드에서 대규모 모델을 실행하도록 트레이닝 데이터를 선별하고, 대규모 모델의 매개변수를 최대 수조 개까지 트레이닝하며, 유도 학습을 사용하여 맞춤화하고, NVIDIA Triton™ 추론 서버를 사용하여 배포하는 기능을 제공합니다.

NeMo Megaton은 NVIDIA DGX™ Foundry, NVIDIA DGX SuperPOD™, Amazon Web Services, Oracle Cloud Infrastructure, Microsoft Azure 및 Oracle Cloud Infrastructure에서 실행되도록 최적화되었습니다.

NeMo Megatron 자세히 알아보기

오픈 베타판 신청하기

NVIDIA Triton으로 LLM 추론에 박차를 가하세요.

데이터 사이언티스트와 엔지니어는 대형 언어 모델에서 가능성이 경계를 넓히기 시작했습니다. NVIDIA Triton™ 추론 서버는 LLM을 배포, 실행 및 확장하는 데 사용할 수 있는 오픈 소스 추론 제공 소프트웨어입니다. NVIDIA Triton 추론 서버는 FasterTransformer 백엔드를 사용하여 대규모 언어 모델에 멀티 GPU 및 멀티 노드 추론을 지원합니다. Triton은 분산된 고성능 추론을 위해 텐서 및 파이프라인 병렬 처리 및 메시지 전달 인터페이스(MPI), NVIDIA Collective Communication Library(NCCL)를 사용하며, GPT, T5 및 기타 LLM을 지원합니다. LLM 추론 기능은 현재 베타 버전입니다.

NVIDIA Triton 알아보기

NVIDIA BioNeMo로 신약 개발 연구를 확장하세요.

BioNeMo는 슈퍼컴퓨팅 규모의 대규모 생체 분자 트랜스포머 AI 모델을 트레이닝 및 배포하기 위해 NVIDIA NeMo Megatron에 구축된 AI 기반 신약 개발 클라우드 서비스이자 프레임워크입니다. 이 서비스에는 사전 학습된 LLM과 단백질, DNA, RNA 및 화학을 위한 일반적인 파일 형식 지원이 기본으로 포함되며, 분자 구조를 위한 SMILES와 아미노산 및 누클레오티드 서열을 위한 FASTA에 데이터 로더를 제공합니다. BioNeMo 프레임워크는 자체 인프라에서 실행하기 위해 다운로드할 수도 있습니다.

NVIDIA BioNeMo 자세히 알아보기