엣지 컴퓨팅을 위한 NVIDIA EGX 플랫폼

이제 엔터프라이즈는 엣지에서 운영을 합니다. 공장 현장에서. 상점에서. 도시의 거리에서. 응급 치료 시설에서. 엣지에서는 수십억 개의 IoT 센서가 전송하는 데이터를 엣지 서버에서 처리하여 실시간 결정이 필요한 곳에 동력을 공급합니다. 이 모든 것(스마트 소매, 헬스케어, 제조, 운송시티)은 엣지에 가속화된 AI 컴퓨팅의 성능을 제공하는 NVIDIA EGX 플랫폼을 통해 가능합니다.

엣지에 실시간 AI 도입

NVIDIA EGX 플랫폼은 배포가 간편한 클라우드 기반 소프트웨어 스택, 검증받은 광범위한 서버 및 장치, 자사 상품과 서비스를 통해 EGX를 지원하는 방대한 파트너 에코시스템과 함께 엣지에 가속화 AI 컴퓨팅 성능을 제공합니다.

AI 컨테이너 운용

NGC 레지스트리는 Kubernetes상 배포 용도의 Helm 차트를 포함하여 광범위한 EGX용 GPU 가속화 소프트웨어를 제공합니다. NGC 컨테이너는 NVIDIA의 조정, 테스트 및 최적화를 마친 상위 AI 및 데이터 과학 소프트웨어를 포함합니다. 또한 NGC 레지스트리를 통해 사용자는 강력한 소프트웨어를 배포하거나 맞춤형 솔루션을 쉽게 구축할 수 있는 타사 도메인 전용, 사전 학습된 모델 및 Kubernetes용 Helm 차트에 액세스할 수 있습니다.

클라우드 기반, 엣지 우선

NVIDIA EGX는 IT 부문에서 빠르고 쉽게 GPU 서버를 준비할 수 있도록 하는 클라우드 기반, 엣지 우선 및 확장 가능한 플랫폼입니다. EGX의 주 구성 요소는 GPU 지원 Kubernetes 클러스터를 준비하는 데 필요한 모든 구성 요소 배포를 표준화 및 자동화하는 NVIDIA GPU Operator입니다.

EGX-Ready 서버

EGX 하드웨어 포트폴리오는 몇 와트만으로 0.5TOPS(Trillion Operations Per Second)에 해당하는 속도로 이미지 인식 등의 작업을 처리할 수 있는 초소형 NVIDIA® Jetson Nano™로 시작합니다. 또한 10,000TOPS 이상을 제공해 수백 명의 유저에게 실시간 음성 인식 및 기타 복잡한 AI 경험을 제공하는 NVIDIA T4 서버의 전체 랙까지 확장됩니다.

엣지에서 데이터센터에 이르는 AI 확장성

엣지에서 데이터센터에 이르는 AI 확장성

NVIDIA EGX 플랫폼은 확장 가능한 다양한 엣지용 NGC-Ready 검증을 받은서버를 내포하며, 이는 스마트 시티 내 교통 카메라를 처리하는 Jetson Nano부터 소매점 뒷방에 있는 NVIDIA GPU가 설치된 단일 엣지 서버, 통신 운영용 마이크로 데이터센터를 구성하는 대규모의 서버 전체를 아우릅니다. 어떤 폼 팩터를 사용하든, NVIDIA EGX 스택은 전반적으로 호환되므로 카메라 및 장치부터 원격 대규모 데이터센터에 이르기까지 비즈니스에 맞게 확장하여 엣지 운영을 빠르고 효율적으로 지원할 수 있습니다.

AI 및 5G로 IoT 혁명 가속화

AI 및 5G로 IoT 혁명 가속화

5G는 10배 낮은 지연, 1000배 높은 대역폭을 지원하며 무선 커뮤니케이션의 새로운 시대를 열고 있습니다. 또한 5G는 통신 회사(telcos)가 고객에게 고유한 서비스를 동적으로 제공할 수 있는 네트워크 슬라이싱의 개념을 도입합니다. 5G로 이전하면서 통신 회사들은 통신 회사 엣지에서 AI 및 증강 현실부터 가상 현실 및 게임까지 다양한 소프트웨어 정의 애플리케이션을 운영하려고 합니다. NVIDIA EGX 및 새로운 NVIDIA Aerial SDK가 있다면 GPU 가속화 및 소프트웨어 정의된 가상 라디오 액세스 네트워크(vRAN)는 생각보다 일찍 찾아올 것입니다.

NVIDIA EGX Stack

엣지 배포를 위한 IT 단순성

NVIDIA EGX 스택이 있다면 원격 시스템상 소프트웨어 설치에 따른 기존의 IT 문제는 사라집니다. 이제 조직은 Helm 차트, 컨테이너, 지속적인 통합 및 지속적인 제공(CI/CD)을 사용하여 업데이트된 AI 컨테이너를 수 분 안에 쉽게 배포할 수 있습니다.

Kubernetes 기반의 NVIDIA GPU Operator는 GPU와 CPU 노드 사이에 고유한 운영 체제(OS) 이미지가 필요하다는 문제를 해결합니다. 그 대신 GPU Operator는 드라이버, 컨테이너 런타임, 장치 플러그인, 그리고 Helm 차트를 통한 배포 모니터링까지 Tesla GPU 지원에 필요한 모든 것을 한데 묶어서 제공합니다. 이제 단 하나의 황금색 마스터 이미지가 CPU와 GPU 노드 모두를 포함합니다.

Hybrid Cloud Management

Kubernetes 관리 플랫폼과 호환 가능

생산 등급, 엔터프라이즈급 Kubernetes 클러스터의 배포, 확장 및 관리 가능한 능력은 매우 중요합니다. EGX 스택 아키텍처는 최고의 하이브리드 클라우드 플랫폼 파트너인 Canonical, Cisco Container Platform(CCP), Nutanix, Microsoft Azure, Red Hat 및 VMware가 지원합니다. 파트너의 GPU Operator 지원을 통해 이 클러스터들은 GPU 워크로드에 맞게 일관적이며 최적화된 성능을 내도록 구성됩니다.

다양한 산업에서의 엣지 컴퓨팅

NVIDIA EGX 플랫폼은 업계 최고의 엣지 AI 애플리케이션 및 프레임워크를 위한 단일 통합 토대를 제공합니다.

소매업체

소매업체

제조

제조

통신

통신

스마트 시티

스마트 시티

Seagate에서는 하드 디스크 읽기 및 쓰기 헤드의 품질을 점검하기 위해 제조 시설에 지능형 엣지 GPU 기반 비전 솔루션을 배포했습니다. NVIDIA EGX 플랫폼은 엣지에서의 추론을 대폭 가속화하여 과거에 사람이 식별할 수 없었던 미묘한 결함을 감지할 수 있도록 지원합니다. 제조 처리량의 10% 개선과 더불어 향상된 효율성 및 개선된 품질로 최대 300%의 ROI를 달성할 것으로 기대하고 있습니다.

—Bruce King, Seagate Technology 수석 책임 데이터 과학자

AI는 정밀한 건강 정보를 확보하는 데 필수적인 기능이며 클라우드에서 엣지에 이르는 전반적 범위는 물론, 의료 기기에 직접적으로 제공되어야 합니다. NVIDIA의 EGX는 GE Healthcare에서 궁극적인 목표인 환자 치료 결과 향상이라는 목표를 달성할 수 있도록 신속한 [자기 공명(MR)] 입수 시간을 제공하고 이미지 품질을 개선하고 NVIDIA T4 GPU를 의료 기기에 직접 탑재해 가변성을 줄일 수 있도록 지원하고 있습니다. 실시간 중환자 관리 사용 사례에서는 엣지의 AI가 필요합니다. 이것이 바로 저희가 Edison 인텔리전스를 제작하고 NVIDIA와 파트너십을 맺어 의료 기기 및 Edison 엣지 어플라이언스에 AI를 탑재한 이유이며, ACR AI-LAB과 협력해 AI를 보편화하고 있는 이유이기도 합니다.

— Jason Polzin 박사, GE Healthcare MR 애플리케이션 총괄 관리자

Red Hat은 하이브리드 클라우드부터 에지에 이르는 모든 워크로드, 설치 공간 및 위치에 대해 일관된 경험을 제공하기 위해 노력하고 있습니다. Red Hat OpenShift와 NVIDIA EGX 지원 플랫폼을 결합함으로써 고객은 고성능의 일관된 컨테이너 중심 환경으로 분산 작업의 최적화 수준을 향상할 수 있습니다.

— Chris Wright, Red Hat 최고 기술 책임자

Foxconn PC 생산 라인은 현재 각 부품을 수동 점검하는 데 4초가 소요되는 점검 속도로 인해 작업이 제한되고 있습니다. 저희의 목표는 엣지에서 실시간 지능형 의사 결정 기능을 제공하는 NVIDIA EGX 플랫폼을 이용해 PC 생산 라인의 처리량을 40% 이상 향상하는 것입니다. 당사의 모델은 NVIDIA GPU에서 실행되는 신속한 신경망을 이용해 16가지의 결함 유형과 위치를 동시에 감지 및 분류하여 초인간적 처리 속도에서 98%의 정확도를 달성합니다.

— Mark Chien, Foxconn D Group 총괄 관리자

Mellanox SmartNIC 및 스위치는 엣지에서 하이퍼스케일 데이터센터로 확장되는 데이터 액세스에 이상적인 [입력/출력(I/O)] 연결을 제공합니다. 대기 시간이 짧은 이 고성능의 가속화 네트워킹 조합은 NVIDIA EGX와 같은 엣지 플랫폼의 차세대 고급 AI 솔루션을 가동하는 데 필요한 데이터에 효율적으로 액세스하고 이를 공급하는 데 대단히 중요한 새로운 컴퓨팅 인프라 계층을 제공합니다.

— Michael Kagan, Mellanox Technologies 최고 기술 책임자

EGX용 엔터프라이즈급 소프트웨어 스택

EGX용 엔터프라이즈급 소프트웨어 스택

NVIDIA EGX는 NVIDIA 드라이버, Kubernetes 플러그인, 컨테이너 런타임을 포함하며, NVIDIA TensorRT™, TensorRT Inference Server 및 DeepStream을 포함하는 컨테이너화된 AI 프레임워크와 애플리케이션 배포 및 관리의 기반 역할을 하는 최적화된 소프트웨어 스택입니다. NVIDIA EGX 스택은 엣지 서버용 NGC-Ready 및 설치용 Helm 차트에 최적화되었으며 NVIDIA NGC 레지스트리에서 구매할 수 있습니다.

EGX 파트너

  • 엣지 서버 제조업체
  • 하이브리드 클라우드 플랫폼 파트너
Acer
Advantech
ASRock Rack
Asus
Atos
Cisco
Dell EMC
Fujitsu
Gigabyte
Hewlett Packard Enterprise
Inspur
Ineventec
Lenovo
Mitac
Quanta Cloud Technology
Supermicro
Tyan
wiwynn
Canonical
Cisco
Microsoft Azure
Nutanix
Red Hat
VMware

실제로 활용되는 NVIDIA EGX

등록하여 NVIDIA EGX 엣지 컴퓨팅 플랫폼에 대해 자세히 알아보십시오.