インタラクティブな対話型 AI は、インテリジェントで、人間のように発声し、300 ミリ秒未満の遅延で動作する必要があります。それには、モデル、コンピューティング、ネットワーキング、ストレージをまたいだ、データ センター全体での最適化が必要になります。エンドツーエンドの対話型 AI ベンチマークである SpeechSquad で、Jarvis フレームワークは業界をリードするディープラーニング モデルを 300 ミリ秒未満の遅延で実行できます。一方、CPU を利用した場合の遅延は、それより単純なモデルで 600 ミリ秒になります。GPU を利用すると、3 分の 1 のコストでインテリジェントかつ人間のような音声を得られます。