透過邊緣或雲端將感測器資料傳輸至 GPU 進行即時推論,加速邊緣 AI 開發。
Moon Surgical
概覽
Holoscan 是一個多型態運算平台,提供加速的全堆疊基礎架構,滿足在邊緣執行串流資料的可擴充、軟體定義與即時處理需求。
軟體定義型硬體
Holoscan 平台涵蓋軟硬體元件,透過最佳化的資料處理函式庫、工具與容器,連接感測器與邊緣伺服器、網路、本地資料中心以及雲端運算。此平台同時提供範本應用程式以加速原型開發、啟動訓練用的 AI 模型範例,以及用於執行串流、影像與其他應用的核心微服務。
優勢
為高吞吐量的感測器資料 (如影片、音訊、超音波等) 進行超低延遲處理時,獲得最佳化效能,實現快速的 AI 推論與即時決策。
使用具備即插即用運算元的圖形化 SDK,可處理 I/O、前處理、推論、後處理與視覺化,讓您可在 Python 或 C++ 中建立靈活且可重複使用的資料流程,加速開發與實驗。
在各種目標裝置上執行相同的流程,從 NVIDIA Jetson™ (嵌入式) 到 IGX (工業邊緣) 再到 NVIDIA AGX™ (資料中心) 皆無須重寫程式碼。Holoscan 可抽象化硬體,同時發揮極致的 GPU 加速效能。
整合關鍵工具與程式庫,如用於快速 I/O 的 NVIDIA ® GPUDirect®、適用於 AI 的 NVIDIA Triton™ 推論伺服器,以及用於醫學成像的 NVIDIA MONAI。 如此一來,不僅節省了時間,也能避免將不同系統拼接在一起的麻煩。
使用案例
Holoscan 提供尖端 AI 解決方案,從醫療裝置到醫療照護、機器人和科學運算皆涵蓋其中。
Holoscan 為醫療裝置開發人員提供即時邊緣 AI 功能。現在,各大公司可探索全新的 AI 功能、加速上市時間,並降低醫療級裝置的開發與維護成本。
Atlas Meditech
Virtual Incision 採用 NVIDIA Holoscan 平台支援其微型手術機器人 MIRA,可實現低延遲、高效能 AI 流程,並用於即時控制與視覺化作業。透過使用 Holoscan SDK、感測器橋接、NVIDIA® CUDA® 與搭載 6000 個 NVIDIA Ada GPU 的 IGX Orin,將系統延遲降低 3 倍,實現更順暢的機器人反應與更完善的手術流程。 NVIDIA Isaac Sim™ 同時支援虛擬測試與合成資料生成,可加速在模擬環境中開發 AI 技能,確保在最低侵入性程序中實現可靠性和效率。
Virtual Incision
Holoscan 是通用的感測器處理平台,專為實現高效能作業而生,同時可符合邊緣端的尺寸、重量與功率 (SWaP) 限制。這個平台可提供靈活軟體堆疊,從通用高效能硬體和軟體平台,到加速邊緣的資料分析和視覺化工作流程,用途廣泛。
SETI Institute
入門選項
後續步驟