NVIDIA Holoscan
エッジまたはクラウドで、センサー データを GPU に転送し、リアルタイムの推論を行うことで、エッジ AI 開発を加速します。
Moon Surgical
概要
NVIDIA Holoscan とは?
Holoscan は、エッジで実行されるストリーミング データを、スケーラブルでソフトウェア デファインドなリアルタイム処理するために必要な高速化されたフルスタック インフラを提供する、マルチモーダル コンピューティング プラットフォームです。
ソフトウェア デファインドなハードウェア
Holoscan プラットフォームについて
Holoscan プラットフォームは、センサーとエッジ サーバー、ネットワーク、オンプレミス データ センター、クラウド コンピューティングを、データ処理向けに最適化されたライブラリ、ツール、コンテナーで橋渡しするハードウェアとソフトウェア コンポーネントで構成されています。 また、迅速なプロトタイピングを促進するテンプレート アプリケーション、トレーニングを迅速に開始するためのサンプル AI モデル、ストリーミング、画像処理、その他のアプリケーションを実行するための主要なマイクロサービスも含まれています。
利点
シームレスなエッジ AI ソリューションを実現するリアルタイム センサー処理
低遅延、リアルタイムのパフォーマンス
高スループットなセンサー データ (動画、オーディオ、超音波など) の超低遅延処理向けに最適化されたパフォーマンスの実現により、高速な AI 推論と迅速な意思決定が可能になります。
モジュラー パイプライン アーキテクチャ
I/O、前処理、推論、後処理、可視化に対応したプラグアンドプレイ演算子を備えたグラフベースの SDK を使用することで、柔軟で再利用可能なパイプラインを Python または C++ で構築でき、開発と実験を高速化できます。
エッジからクラウドへの拡張性
NVIDIA Jetson™ (組み込み) から IGX (産業エッジ)、NVIDIA AGX™ (データ センター) まで、あらゆる対象のデバイスで同じパイプラインを実行できます。コードの書き直しは不要です。 Holoscan は、GPU 高速化を最大化しながらハードウェアを抽象化します。
組み込みされたエコシステムの統合
高速な I/O を実現する NVIDIA ® GPUDirect®、AI 向け NVIDIA Triton™ Inference Server、医用画像向け NVIDIA MONAI などの主要なツールとライブラリを統合します。 これにより、時間を節約でき、異なるシステムを統合する手間を省くことができます。
ユース ケース
リアルタイム エッジ AI で業界を変革
Holoscan は、医療機器からヘルスケア、ロボティクス、科学コンピューティングまで、最先端の AI ソリューションを可能にします。
-
医療機器
-
ヘルスケア ロボティクス
-
科学コンピューティング
医療機器
Holoscan は、医療機器開発者にリアルタイムのエッジ AI 機能を提供します。 企業は、医療グレードのデバイスのために、AI を活用した新しい機能を活用し、市場投入までの時間を短縮し、開発コストとメンテナンス コストを削減できるようになります。
Atlas Meditech
ヘルスケア ロボティクス
Virtual Incision は、NVIDIA Holoscan プラットフォームを使用して小型化された手術ロボット MIRA を強化し、リアルタイムの制御と可視化を実現する低遅延で高性能な AI パイプラインを実現しました。 Holoscan SDK、センサー ブリッジ、NVIDIA® CUDA®、6,000 基の NVIDIA Ada GPU を搭載した IGX Orin を 6,000 台の NVIDIA Ada GPU とともに使用することで、システム遅延を 3 倍削減し、ロボットのスムーズな応答と手術ワークフローの強化を実現しました。NVIDIA Isaac Sim™ はまた、仮想テストと合成データ生成をサポートし、シミュレーションにおける AI スキル開発を高速化し、最小限の侵襲手順で信頼性と効率性を確保します。
Virtual Incision
エッジにおける HPC 向け NVIDIA Holoscan 科学コンピューティング
Holoscan は、エッジにおける SWaP (サイズ、重量、電力) の制約を満たしながら、高い性能を発揮するために構築されたユニバーサルなセンサー処理プラットフォームです。共通の高性能ハードウェアとソフトウェア プラットフォーム全体で柔軟なソフトウェア スタックを提供し、エッジでのデータ分析および可視化のワークフローを加速します。
SETI Institute
開始方法
導入をご検討ですか?
次のステップ