NVIDIA Holoscan

NVIDIA Holoscan

透過邊緣或雲端將感測器資料傳輸至 GPU 進行即時推論,加速邊緣 AI 開發。

Moon Surgical

概覽

NVIDIA Holoscan 是什麼?

Holoscan 是一個多型態運算平台,提供加速的全堆疊基礎架構,滿足在邊緣執行串流資料的可擴充、軟體定義與即時處理需求。

利用動態流程控制,輕鬆打造邊緣 AI 應用程式

透過邊緣為醫學影像、機器人和工業感測器啟用高效的 AI 工作負載處理。

利用 NVIDIA Isaac 推動醫療照護的 AI 機器人開發

與 NVIDIA 攜手合作,構築手術機器人技術的未來。

軟體定義型硬體

瞭解 Holoscan 平台

Holoscan 平台涵蓋軟硬體元件,透過最佳化的資料處理函式庫、工具與容器,連接感測器與邊緣伺服器、網路、本地資料中心以及雲端運算。此平台同時提供範本應用程式以加速原型開發、啟動訓練用的 AI 模型範例,以及用於執行串流、影像與其他應用的核心微服務。

Holoscan SDK

透過 Holoscan 的無縫 I/O、AI 推論、自帶感測器支援,以及適用於生產環境的工具,建立端到端的感測器資料處理流程。

Holoscan Sensor Bridge

可將多樣化的感測器資料 (例如視訊或超音波) 無縫整合至 GPU 中,以實現低延遲、同步且即時的 AI 處理。

NVIDIA IGX Orin

NVIDIA IGX Orin™ 上部署,加速在可投入生產的工業級硬體上進行 AI 開發,而 Holoscan SDK 則確保在目標平台上得以靈活部署。

優勢

即時感測器處理,專用於無縫邊緣 AI 解決方案

低延遲、即時效能

為高吞吐量的感測器資料 (如影片、音訊、超音波等) 進行超低延遲處理時,獲得最佳化效能,實現快速的 AI 推論與即時決策。

模組化流程架構

使用具備即插即用運算元的圖形化 SDK,可處理 I/O、前處理、推論、後處理與視覺化,讓您可在 Python 或 C++ 中建立靈活且可重複使用的資料流程,加速開發與實驗。

邊緣至雲端的擴充性

在各種目標裝置上執行相同的流程,從 NVIDIA Jetson™ (嵌入式) 到 IGX (工業邊緣) 再到 NVIDIA AGX™ (資料中心) 皆無須重寫程式碼。Holoscan 可抽象化硬體,同時發揮極致的 GPU 加速效能。

內建生態系統整合功能

整合關鍵工具與程式庫,如用於快速 I/O 的 NVIDIA ® GPUDirect®、適用於 AI 的 NVIDIA Triton™ 推論伺服器,以及用於醫學成像的 NVIDIA MONAI。 如此一來,不僅節省了時間,也能避免將不同系統拼接在一起的麻煩。

使用案例

利用即時邊緣 AI 革新產業

Holoscan 提供尖端 AI 解決方案,從醫療裝置到醫療照護、機器人和科學運算皆涵蓋其中。

醫療裝置

Holoscan 為醫療裝置開發人員提供即時邊緣 AI 功能。現在,各大公司可探索全新的 AI 功能、加速上市時間,並降低醫療級裝置的開發與維護成本。

Atlas Meditech

醫療照護機器人

Virtual Incision 採用 NVIDIA Holoscan 平台支援其微型手術機器人 MIRA,可實現低延遲、高效能 AI 流程,並用於即時控制與視覺化作業。透過使用 Holoscan SDK、感測器橋接、NVIDIA® CUDA® 與搭載 6000 個 NVIDIA Ada GPU 的 IGX Orin,將系統延遲降低 3 倍,實現更順暢的機器人反應與更完善的手術流程。 NVIDIA Isaac Sim™ 同時支援虛擬測試與合成資料生成,可加速在模擬環境中開發 AI 技能,確保在最低侵入性程序中實現可靠性和效率。

Virtual Incision

科學運算 適用於邊緣 HPC 的 NVIDIA Holoscan

Holoscan 是通用的感測器處理平台,專為實現高效能作業而生,同時可符合邊緣端的尺寸、重量與功率 (SWaP) 限制。這個平台可提供靈活軟體堆疊,從通用高效能硬體和軟體平台,到加速邊緣的資料分析和視覺化工作流程,用途廣泛。

SETI Institute

入門選項

準備好開始了嗎?

開發

開發人員專用

深入瞭解說明文件,開始打造邊緣 AI 應用程式。

部署

適用於企業

取得免費授權在實際環境試用 NVIDIA AI Enterprise 90 天,而且是利用您現有的基礎架構。

後續步驟

利用 NVIDIA Holoscan SDK 釋放即時 AI 效能