이 워크숍에서는 멀티 GPU에서 딥 뉴럴 네트워크를 트레이닝하여 데이터 집중적인 애플리케이션에 필요한 트레이닝 시간을 단축하는 기법을 설명합니다. 딥 러닝 도구, 프레임워크 및 워크플로우 작업을 수행하여 뉴럴 네트워크 트레이닝을 수행하면서 Horovod 멀티 GPU를 구현하여 효율적인 분산 소프트웨어를 작성하는 데 따르는 복잡성을 줄이고 다수의 GPU에 걸쳐 모델을 트레이닝할 때 정확도를 유지하는 개념을 알아봅니다.

 

학습 목표


워크숍을 마치면 다음을 이해하게 됩니다.
  • 병렬 처리 트레이닝에 필수 도구인 SGD(확률적 경사 하강법)
  • 배치 크기가 트레이닝 시간 및 정확도에 미치는 효과
  • 단일 GPU 구현을 Horovod 멀티 GPU 구현으로 변환하는 방법
  • 멀티 GPU 전체를 트레이닝할 때 높은 정확도를 유지하는 기법

워크숍 데이터시트 다운로드 (PDF 73.3 KB)

워크숍 개요

인트로
(15 분)
  • 전문가 강사와 만나기
  • courses.nvidia.com/join에서 계정 생성하기
확률적 경사 하강법 및 배치 크기의 효과
(120 분)
  • 순차적 단일 스레드 데이터 처리와 관련된 문제 및 병렬 처리를 통한 애플리케이션 속도 향상 이면의 이론 이해하기
  • 손실 함수, 경사 하강법 및 SGD 살펴보기
  • 정확도 및 트레이닝 시간에 배치 크기가 미치는 효과 알아보기
휴식 (60 분)
Horovod를 사용한 멀티 GPU 트레이닝
(120 분)
  • Horovod를 사용하여 멀티 GPU에서 트레이닝하는 이점 알아보기
  • Fashion-MNIST 데이터세트의 단일 GPU 트레이닝을 Horovod 멀티 GPU 구현으로 변환하는 방법 알아보기
휴식 (15 분)
멀티 GPU로 확장 시 모델 정확도 유지
(120 분)
  • 멀티 GPU에서 병렬 처리 트레이닝 시 정확도가 낮아질 수 있는 이유 이해하기
  • 멀티 GPU로 트레이닝 확장 시 정확도를 유지하는 도구 살펴보기
최종 복습
(15 분)
  • 핵심 내용을 복습하고 질문에 답하기
  • 평가를 완료하고 인증서 취득하기
  • 워크숍 설문지 작성하기
  • 자신만의 AI 애플리케이션 개발 환경을 설정하는 방법 알아보기
 

워크숍 정보

소요 시간: 8시간

가격: NVIDIA에 문의하세요  

전제 조건: 경사 하강법 모델 트레이닝 관련 경험

기술: TensorFlow, Keras, Horovod

평가 유형: 코드 기반

인증: 평가를 성공적으로 완료한 참가자는 관련 분야에 대한 역량을 인정받고 전문적 커리어 성장을 지원하는 NVIDIA DLI 인증서를 받게 됩니다.

하드웨어 요구 사항: 최신 버전의 Chrome 또는 Firefox를 실행할 수 있는 데스크톱 또는 노트북 각 참가자에게는 클라우드상에서 완전하게 구성된 GPU 가속 서버에 접근할 수 있는 전용 권한이 주어집니다.

언어: 영어, 한국어, 중국어 간체, 중국어 번체

Upcoming Workshops

AI, 데이터 사이언스 또는 가속 컴퓨팅 분야의 핵심 기술을 향상하고 개발하는 데 관심이 있는 기업의 경우, NVIDIA DLI에 딥 러닝 전문가 주도 교육을 요청할 수 있습니다.

질문이 있으신가요?