邊緣運算解決方案

現代企業希望能善用來自零售商店、城市街道和醫院的數十億種物聯網感測器所產生的資料。若能更快速蒐集見解,不僅能節省時間、成本,甚至能拯救人命。但為了做到這一點,邊緣運算解決方案需要提供強大且分散式的運算能力、安全且簡單的遠端系統管理,並支援
領先業界的技術。

加速邊緣運算的優勢

Intelligent Sensors Embedded in IoT Devices

降低延遲,洞察先機

因為邊緣運算在本機處理資料,而不是在雲端或資料中心處理,因此可將延遲和頻寬需求降到最低,即時提供意見回饋並進行決策。例如,嵌入物聯網裝置中的智慧感測器可處理工廠廠區的自動化裝置和相機資料,並可立即提醒工作人員發生異常、故障及其他情況。除了嵌入式裝置之外,企業還可以將邊緣端伺服器放在接近感測器的位置,通常是在商店、醫院或倉庫的伺服器機房或機櫃中,以更進一步減少延遲。

強大且可擴充的運算能力

資料和資料中心之間的物理距離會導致延遲。邊緣運算會將加速運算帶入邊緣端,更接近資料來源,藉此削弱導致延遲的主因。但隨著大量資料不斷產生,嵌入式裝置和邊緣伺服器仍需要資料中心的強大功能,才能在本機上處理所有資訊。NVIDIA GPU 與軟體讓企業無須犧牲運算能力,來換取邊緣端延遲或可擴充性。

NVIDIA GPUs and Software
NVIDIA EGX  Edge Computing Platform

分散式且簡化的 IT

若系統分散在多個地點,企業就必須面對佈建、部署、管理和維護的新挑戰。為了順暢運作,IT 就必須能夠在遠端系統上安裝軟體。NVIDIA EGX™ 人工智慧平台,搭載 Helm Chart、容器,以及持續整合和連續傳遞 (CI/CD),可簡化並加速流程。有了 NVIDIA EGX,IT 人員就可以讓在數分鐘內輕鬆部署更新的人工智慧容器。

NVIDIA EGX 包含一個 GPU Operator,可自動安裝和設定在 Kubernetes 叢集中使用 GPU 運算時需要的所有元件。NVIDIA 驅動程式、容器執行階段、裝置外掛程式和監控等元件都經過容器化,並在 Kubernetes 上以服務形式執行,因此 IT 人員只須管理單一的 CPU 和 GPU 節點影像。

跨產業的加速的邊緣運算

遍布各主要產業的企業都現在已透過 GPU 驅動的邊緣運算解決方案中獲得優勢,能更快速地尋求見解。請選擇產業以深入瞭解相關解決方案的優勢。

醫療照護

製造業

零售業

智慧城市

電信業

使用 EGX 加速邊緣端人工智慧

NVIDIA EGX 人工智慧平台透過易於部署的雲端原生軟體堆疊、一系列經過認證的伺服器和裝置,以及經由產品和服務提供 EGX 的龐大合作夥伴生態系統,能安全地將加速人工智慧運算的力量發揮到極致。

  • 邊緣運算軟體
  • 邊緣運算基礎架構
  • 邊緣管理
NVIDIA EGX Edge Computing Software

邊緣運算軟體

用雲端原生、邊緣優先且可擴充的軟體堆疊 NVIDIA EGX,快速輕鬆地佈建 GPU 伺服器。此堆疊的主要元件是 NVIDIA GPU Operator,可為採用 GPU 的 Kubernetes 叢集標準化和自動部署所有必要的元件。

NVIDIA NGC 目錄具備類型廣泛且適用於邊緣端運算的 GPU 加速軟體,包含用於 Kubernetes 部署的 Helm Chart。NGC 目錄可讓使用者輕鬆存取頂尖人工智慧和資料科學軟體容器、預先訓練的模型和 SDK,均經過 NVIDIA 加以調整、測試和最佳化。NGC 目錄讓我們能夠更輕鬆地打造和部署功能強大、安全且可擴充的自訂解決方案。

NVIDIA EGX platform

邊緣運算基礎架構

使用 NVIDIA EGX 人工智慧平台,在邊緣端駕馭 NVIDIA GPU 和網路技術的強大功能與多樣性。EGX 硬體組合首先具備節能的 NVIDIA® Jetson™ 產品系列,適用於影像辨識和感測器融合等作業。EGX 還可向上擴充直至裝滿整個NVIDIA T4 Tensor 核心 GPU 伺服器機架,提供超過 1 萬兆次浮點運算 (TOPS) 的效能,為數百名使用者提供即時語音辨識,以及其它複雜的人工智慧體驗。

NVIDIA EGX platform

邊緣管理

NVIDIA Fleet Command 為混合式雲端平台,可用於管理和擴充邊緣人工智慧。使用 NVIDIA Fleet Command,輕鬆管理和擴充邊緣部署。無論是數十或數百萬部邊緣裝置,都可以在數分鐘內安全地從遠端為整個網路提供人工智慧。