전력 효율성

전력 효율성은 낭비 또는 손실을 최소화하면서 전력을 유용한 작업으로 변환하는 컴퓨팅 리소스의 능력을 말합니다. 전력 효율은 일반적으로 와트당 작업(또는 작업당 와트)으로 측정되며, 전력이 제한된 데이터센터를 원활하게 운영하고 지속 가능한 컴퓨팅을 달성하는 데 점점 더 중요해지고 있습니다.

컴퓨팅 환경에서 주어진 전기로 더 많은 유용한 작업을 수행할 수 있게 될수록 전력 효율성이 더 좋아집니다. 컴퓨팅 장비의 에너지 효율을 높여 소비되는 에너지 단위당 더 많은 작업을 수행할 수 있게 되면 전력 효율성도 전반적으로 개선됩니다.

2014년에 실시된 미국 데이터센터의 일반적인 에너지 사용 분석에 따르면 전력의 57%는 IT 장비에 사용되었으며 43%는 냉각, 배전, 조명 및 기타 용도로 사용되었습니다.

데이터센터로 유입되는 전력 중 더 많은 부분이 컴퓨팅에 사용되고 배전 인프라에서 냉각에 사용되거나 손실되는 전력은 더 줄어들도록 전력효율지수(PUE) 비율을 낮춤으로써 전력 효율성을 개선할 수 있습니다. 또한 범용 CPU보다 특정 작업을 더 효율적으로 수행하는 GPU, DPU와 같은 특수 용도 가속기를 사용하여 서버의 에너지 효율을 높임으로써 전력 효율성을 개선할 수도 있습니다.

컴퓨팅 클러스터가 증가하면 장비를 실행하고 냉각하는 데 더 많은 전력이 필요하므로, 온실가스(GHG)가 추가로 발생하고 비용이 증가하며 데이터센터에서 사용할 수 있는 전력을 종종 초과하게 됩니다.

1. 운영 비용 절감:  전력 효율성을 개선하면 운영 비용이 줄어듭니다. 즉, 전기에 지출하는 동일한 금액으로 더 많은 유용한 작업을 수행할 수 있습니다.  
2. 전력 제약 극복: 많은 기존 데이터센터는 전기를 추가로 할당할 수 없으며 신규 데이터센터 중에는 소비 가능한 전력의 양에 대해 엄격한 제한을 가지고 있는 곳이 많습니다. 작업량을 늘릴 수 있는 유일한 방법은 전력 효율성을 개선하는 것입니다.  
3. 환경 보호:  전통적인 발전 방식은 GHG를 생성하여 기후 변화를 가속화합니다. 전력 효율성을 높이면 전력 소비와 GHG 배출이 줄어듭니다. 데이터센터가 재생 가능한 에너지원에서 전력을 공급받도록 전환하면 사용되는 전기 단위당 배출되는 온실가스양을 더욱 줄일 수도 있습니다.  
4. 냉각 비용 절감: 모든 전력에는 냉각이 필요합니다. 서버 및 네트워킹 수준에서 전력 소비를 줄이고 전기를 사용하지 않고 열을 관리할 수 있는 다른 방법을 찾으면 냉각에 필요한 전력이 줄어듭니다.

가속기 기술을 사용하여 서버 효율성을 개선하고 배전 및 냉각 효율성을 높이면 데이터센터의 전력 소비를 크게 줄일 수 있습니다. 이를 통해 운영 비용은 줄고 데이터센터의 컴퓨팅 성능은 늘고 GHG 배출량은 낮아집니다.

서버와 네트워킹의 에너지 효율을 높이고 데이터센터의 PUE를 개선하면 전력 효율성이 향상됩니다.

1. 가속 컴퓨팅: GPU는 범용 CPU보다 특정 유형의 컴퓨팅을 더 빠르고 효율적으로 수행하므로 서버가 더 짧은 시간에 더 많은 작업을 수행하면서도 더 적은 전기를 소비합니다.  
2. 인프라 오프로드: NVIDIA® BlueField®와 같은 DPU는 CPU보다 네트워킹, 보안, 모니터링 및 관리 작업을 더 빠르게 처리하여 각 서버의 전력 수요를 줄이고 애플리케이션을 실행하는 데 필요한 서버 수를 줄입니다.
3. 더욱 효율적인 CPU: 널리 사용되는 많은 AI 및 머신 러닝 워크로드의 경우 NVIDIA Grace™와 같은 Arm® 기반 CPU는 x86 CPU보다 와트당 최대 2배 더 많은 작업을 처리할 수 있습니다. 
4. 서버 상호 연결 및 네트워킹: CPU와 GPU 간에 NVIDIA NVLink® 및 NVSwitch™와 같은 혁신적인 상호 연결을 사용하여 컴퓨팅 속도를 높이면 작업을 처리하는 데 필요한 에너지가 줄어듭니다. 고대역폭 하이래딕스 스위치 및 더 효율적인 네트워크 트랜시버를 사용하면 네트워크의 전력 효율성이 개선됩니다. 
5. 냉각 및 배전: 무정전 전원 공급 장치, 배전 장치(PDU) 등 더 효율적인 배전과 함께 열복도 및 냉복도 차폐, 외기 냉각과 같은 더 효율적인 냉각 솔루션을 구현하면 컴퓨팅 및 네트워킹 장비에 도달하기 이전의 전력 손실이 줄어듭니다. 이를 통해 PUE 비율이 개선됩니다.

이러한 솔루션을 결합하면 각 애플리케이션 또는 컴퓨팅 작업에 사용되는 전기의 양이 크게 줄어들어 전력 효율성이 높아집니다.

NVIDIA GPU는 수백 개의 스레드를 병렬로 처리할 수 있으며 많은 수학 및 그래픽 작업을 범용 CPU보다 훨씬 더 효율적으로 처리할 수 있습니다. 병렬성이 높거나 수학 및 그래픽 집약적인 워크로드를 GPU로 보내면 GPU가 훨씬 더 빠르게 그리고 더 적은 에너지로 이를 완료할 수 있습니다. 또한 워크로드를 CPU에서 GPU로 이전하면 NVIDIA AI 프레임워크가 에너지 효율을 더욱 개선할 수 있습니다. NVIDIA GPU와 AI, 고성능 컴퓨팅(HPC) 또는 시각화 소프트웨어를 결합하면 데이터센터의 전력 효율성이 대폭 개선됩니다.

NVIDIA BlueField DPU는 워크로드를 CPU에서 오프로드하고 가속화하고 격리하여 성능과 전력 효율성을 개선합니다. BlueField는 네트워킹, 스토리지, 보안 및 관리 작업을 특수 용도 실리콘으로 이전하여 범용 CPU보다 더 효율적으로 수행하고 비즈니스 및 과학 애플리케이션의 실행을 위해 CPU 코어를 확보합니다.

NVIDIA Grace CPU는 AI 및 과학 컴퓨팅 작업에 탁월한 전력 효율성을 제공하며, LPDDR5X 메모리를 사용하여 이전 세대의 서버 메모리보다 최대 2배 더 많은 대역폭과 10배 더 뛰어난 에너지 효율을 제공합니다. 전통적인 컴퓨팅 작업의 경우 AMD와 Intel의 최신 x86 CPU는 이전 x86 CPU보다 에너지 효율이 더 높습니다.

CPU, GPU 및 메모리 간에 더 효율적인 상호 연결을 사용하면 서버 내 전력 효율성이 크게 개선됩니다. NVIDIA NVLink 및 NVSwitch는 PCie Gen5보다 최대 7배 더 높은 대역폭과 몇 배 더 뛰어난 에너지 효율성으로 GPU를 연결합니다. 인-네트워크 컴퓨팅 기능을 갖춘 NVIDIA Quantum-2 InfiniBand는 네트워크 내에서 컴퓨팅 작업을 수행하여 필요한 스위치 수를 줄이므로 최상의 성능과 효율성으로 AI 및 HPC 클러스터를 연결할 수 있습니다. NVIDIA Spectrum™ 스위치는 AI를 위한 가장 효율적인 200G/400G/800G 이더넷 네트워크를 제공합니다. ConnectX® 어댑터, BlueField DPU와 함께 NVIDIA LinkX® 케이블 및 트랜시버는 다이렉트 드라이브를 지원하여 각 트랜시버의 전력 소비를 줄입니다.

NVIDIA H100 Tensor Core GPU는 이전 NVIDIA A100 Tensor Core GPU보다 에너지 효율이 거의 2배 더 높습니다.

NVIDIA DGX™ A100 시스템은 이전 세대의 DGX 대비 AI 훈련 사례에서 거의 5배 향상된 에너지 효율을 제공합니다. 

2022년 11월 기준, #1 Green500 시스템을 포함하여 Green500 리스트에 이름을 올린 상위 30개 슈퍼컴퓨팅 시스템 중 23개 시스템이 NVIDIA GPU 및 네트워킹 기술을 기반으로 했습니다.

NVIDIA Grace CPU는 일부 애플리케이션에 x86 CPU보다 최대 2배 더 뛰어난 에너지 효율성을 제공합니다.

NVIDIA BlueField DPU를 사용하면 서버가 작업 단위당 소비하는 전력을 최대 30%까지 줄일 수 있습니다. 

VMware vSphere 8에서 Redis 인메모리 캐싱 서비스를 실행할 때 네트워킹을 BlueField DPU로 오프로드하면 작업당 전력 소비를 최대 34%까지 줄일 수 있습니다. 

NVIDIA Ada Lovelace GPU 아키텍처와 5세대 Max-Q 기술이 적용된 NVIDIA GeForce RTX™ 40 시리즈 노트북은 이전 세대보다 전력 효율성이 최대 3배 더 높습니다.

데이터센터의 전력 효율성을 개선할 수 있는 몇 가지 방법은 다음과 같습니다.

1. NVIDIA GPU 및 프레임워크로 가속화할 수 있는 워크로드를 찾아보세요. 일반적으로 AI, HPC, 과학 컴퓨팅, 시각화, 디지털 트윈 응용 사례가 해당될 수 있습니다.
2. 최신 CPU, GPU 및 가속화 프레임워크로 업그레이드하여 성능과 효율성을 개선할 수 있습니다.
3. 네트워킹(SDN, 방화벽, 로드 밸런서, 패킷 검사 등), 암호화, 원격 측정, 관리를 비롯한 데이터센터 인프라를 오프로드하고 가속화하는 DPU의 기능에 대해 알아보세요.
4. NVIDIA Grace CPU 또는 NVIDIA Grace Hopper 슈퍼칩에서 어떤 AI 및 HPC 워크로드를 더 효율적으로 실행할 수 있는지 평가해 보세요.
5. NVIDIA 200G/400G Quantum InfiniBand 또는 200G/400G/800G Spectrum 이더넷 스위치로 네트워크를 업그레이드하여 필요한 스위치와 케이블 수를 얼마나 줄일 수 있고 전력 사용량을 얼마나 낮출 수 있는지 예측해 보세요.
6. 데이터센터 및/또는 클라우드 서비스 공급업체의 PUE 비율을 계산한 다음, 얼마나 개선할 수 있는지 살펴보세요.
7. 재생 가능 에너지원에서 공급되는 에너지 비율을 늘리고, 재생 가능 전기가 더 풍부하고 더 자주 외기 냉각을 수행할 수 있는 곳에 다음 데이터센터 또는 코로케이션 센터를 구축하는 방안을 고려해 보세요.