Machine Learning Operations

Die Inferenzplattform von NVIDIA bietet die Leistung, Effizienz und Reaktionsfähigkeit, die für die Bereitstellung von KI-Produkten und -Diensten der nächsten Generation entscheidend sind – in der Cloud, im Rechenzentrum, in der Netzwerkperipherie und in autonomen Maschinen.

NVIDIA Triton^™ Inference Server ist eine Open-Source-Software für schnelle und skalierbare KI-Inferenz in der Produktion. Mit Triton können Teams trainierte KI-Modelle aus jedem Framework (TensorFlow, PyTorch, XgBoost, Python und anderen) auf jeder GPU- oder CPU-basierten Infrastruktur bereitstellen. Es maximiert die GPU- und CPU-Auslastung, liefert hohen Durchsatz bei geringer Latenz und lässt sich für Orchestrierung, Metriken und Autoscaling in Kubernetes integrieren.

Beschleunigen Sie Ihre KI-Projekte mit umgehendem, kurzfristigem Zugriff auf NVIDIA-KI über NVIDIA LaunchPad.

Mit LaunchPad erhalten Unternehmen sofortigen, kurzfristigen Zugriff auf NVIDIA Base Command^™ auf NVIDIA DGX-Systemen, NVIDIA Fleet Command™ und die NVIDIA AI Enterprise-Softwaresuite mit beschleunigter Recheninfrastruktur mit NVIDIA-zertifizierten Systemen™. Die Testversionen werden kostenlos und für bestimmte Zeiträume über kuratierte Datenwissenschafts- und KI-Labs zur Verfügung gestellt.