NVIDIA AI Enterprise 簡化了生產級人工智慧解決方案的開發與部署,包括 LLM 推論、人工智慧代理、生成式人工智慧、電腦視覺、語音人工智慧等。RTX PRO 6000 搭載第五代 Tensor 核心,並支援第二代 Transformer Engine,相較於前一代代理型和生成式人工智慧應用程式 NVIDIA L40S,RTX PRO 6000 的效能大幅提升。
適用於資料中心的通用人工智慧與視覺運算效能
概覽
NVIDIA RTX PRO™ 6000 Blackwell 伺服器版本採用突破性的 NVIDIA Blackwell 架構,可提供強大的人工智慧與視覺運算功能,加速企業資料中心的工作負載。NVIDIA RTX PRO 6000 Blackwell 搭載 96GB 超高速 GDDR7 記憶體,可提供絕佳的效能與靈活性,加速各種使用案例的執行速度,包括代理型人工智慧、實體人工智慧、科學運算,以及渲染、3D 繪圖運算與影片。
功能
借助 FP4 與 DLSS 4 發揮 AI 極致效能
針對 RTX 神經著色器進行最佳化。
專為 Mega Geometry 打造
RTX PRO 伺服器採用 NVIDIA RTX PRO 6000 Blackwell 伺服器版本 GPU,將 NVIDIA Blackwell 架構的突破性效能與能源效率延伸至 AI 工廠建置及各種企業工作負載加速,推動從以 CPU 為主的系統轉向高效的 GPU 加速基礎架構。
工作負載
規格
GPU 架構 | NVIDIA Blackwell 架構 |
GPU 記憶體 | 具備 ECC 的 96GB GDDR7 |
記憶體頻寬 | 每秒高達 1.6TB |
互連介面 | PCIe Gen5 x16,每秒 128GB 雙向 |
MIG 支援 | 是 (最多 4 個 MIG) |
機密運算 | TEE |
NVENC | NVDEC | 4x | 4x |
功耗 | 400W 至 600W (可設定) |
CUDA Parallel Processing cores | 24,064 |
NVIDIA Tensor Cores | 752 (5th Gen) |
NVIDIA RT Cores | 188 (4th Gen) |
Single-Precision Performance (FP32) | 117 TFLOPS |
Peak FP4 AI PFLOPS | 3.7 PFLOPS |
RT Core Performance | 354.5 TFLOPS |
GPU Memory | 96 GB GDDR7 with ECC |
Memory Interface | 512-bit |
Memory Bandwidth | 1.6 TB/s |
Power Consumption | Up to 600W (Configurable) |
Multi-Instance GPU | Up to 4 MIGs @ 24GB |
NVENC | NVDEC | JPEG | 4x | 4x | 4x |
Confidential Compute | Supported |
Secure Boot with Root of Trust | Yes |
Graphics Bus | PCI Express 5.0 x16 |
Display Connectors | 4x DisplayPort 2.1 |
Form Factor | 4.4" (H) x 10.5" (L), dual slot |
Product Weight | 1194 grams |
Thermal Solution | Passive |
Power Connector | 1x PCIe CEM5 16-pin |
NVIDIA RTX 6000 Blackwell 伺服器版本推出時請通知我。
註冊以接收 NVIDIA 最新消息、更新等內容。註冊以接收 NVIDIA 最新消息、更新等內容。