概覽
為了實現企業轉型,AI 代理程式需要持續存取資料,而這會對原本未為代理式推理循環設計的資料基礎設施帶來壓力。
透過 NVIDIA cuDF 與 NVIDIA cuVS 加速非結構化與結構化的資料處理,企業可滿足 AI 帶來的新資料量與速度需求,同時延續已投資多年的資料基礎設施。
全球最受歡迎的資料引擎皆運行於加速運算平台,協助代理程式存取企業中以表格形式存在的結構化資料,以及以 PDF、電子郵件、圖片與影片等形式存在的非結構化資料。
加速運算平台可將資料處理速度提升最高達 20 倍,使企業能以更快速度應對新的使用案例並採取行動。
透過在 NVIDIA 最佳化堆疊上執行,企業可節省高達 80% 以上的成本,讓資料基礎設施得以更少資源發揮更高效能。
全球最受歡迎的分析與向量資料引擎皆具備即插即用的加速器,使導入更加簡單直接,包括 Apache Spark、OpenSearch 等。
透過 NVIDIA cuVS,處理來自 PDF、訊息與電子郵件等 90% 的企業資料情境;同時利用 NVIDIA cuDF 在數分鐘內處理數 TB 的結構化資料並取得可靠的基準資料,讓您的資料為代理式 AI 應用做好準備。
對於大規模執行代理式 AI 工作負載的企業而言,AI 代理程式會大幅增加對企業結構化資料的並行、持續性小規模查詢功能。NVIDIA Vera 具備 1.2 TB/s 的記憶體頻寬與高速晶片上架構,提供每核心效能、高傳輸量,以及在負載下的可預測性,支援查詢量與速度的提升。對於 Starburst 分析引擎,NVIDIA Vera 處理查詢的速度是 x86 的 3 倍,將查詢執行時間從數分鐘縮短為數秒,而 Redpanda 串流引擎的 p99 效能較 x86 提升了 6 倍,強化了資料引擎的可靠性。
即將推出。
資源