Combine la potencia de la plataforma de IA de NVIDIA con la flexibilidad y la escalabilidad de GKE para gestionar y escalar de forma eficiente el entrenamiento y la inferencia de IA generativa, así como otras cargas de trabajo de computación intensiva. El aprovisionamiento bajo demanda, el escalado automatizado, la compatibilidad con GPU multiinstancia (MIG) de NVIDIA y las capacidades de tiempo compartido de GPU garantizan una utilización óptima de los recursos. Esto minimiza los costes operativos, al tiempo que proporciona la potencia computacional necesaria para cargas de trabajo de IA exigentes.

Combine la potencia de la computación acelerada de NVIDIA con Vertex AI de Google Cloud, una plataforma MLOps totalmente gestionada y unificada para crear, implementar y escalar modelos de IA en producción. Aproveche las últimas GPU NVIDIA y el software de NVIDIA AI, como el servidor de inferencia Triton™, en el contexto de entrenamiento, predicción, canalizaciones y cuadernos de Vertex AI para acelerar el desarrollo y la implementación de IA generativa sin las complejidades de la gestión de infraestructuras.

Aproveche el acelerador NVIDIA RAPIDS™ para Spark para acelerar las cargas de trabajo de Apache Spark y Dask en Dataproc, el servicio de procesamiento de datos totalmente gestionado de Google Cloud, sin cambios en el código. Esto permite procesar datos más rápido y realizar operaciones de extracción, transformación y carga (ETL), así como canalizaciones de aprendizaje automático, al tiempo que reduce sustancialmente los costes de infraestructura. Con el acelerador Rapids para Spark los usuarios también pueden acelerar las cargas de trabajo por lotes dentro de Dataproc Serverless sin necesidad de aprovisionar clústeres.

Acelere la inferencia de aprendizaje automático con NVIDIA AI en Dataflow de Google Cloud, un servicio gestionado para ejecutar una amplia variedad de patrones de procesamiento de datos, incluidos los análisis de transmisión y por lotes. Los usuarios pueden optimizar el rendimiento de inferencia de los modelos de IA utilizando la integración de NVIDIA TensorRT con el SDK de Apache Beam y acelerar los escenarios de inferencia complejos dentro de una canalización de procesamiento de datos utilizando unidades GPU NVIDIA compatibles con Dataflow.

Acelere el camino para implementar IA generativa más rápido con NVIDIA NIM en Google Cloud Run, una plataforma de computación sin servidor totalmente gestionada para implementar contenedores en la infraestructura de Google Cloud. Con soporte para las GPU NVIDIA en Cloud Run, los usuarios pueden aprovechar NIM para optimizar el rendimiento y acelerar la implementación de modelos de IA generativa en producción en un entorno sin servidor que minimiza al máximo la gestión de la infraestructura.

Obtenga fácil acceso a la capacidad de la GPU NVIDIA en Google Cloud para cargas de trabajo de corta duración, como entrenamiento, ajuste y experimentación de IA usando el planificador de cargas de trabajo dinámico. Gracias a la planificación flexible y el aprovisionamiento atómico, los usuarios pueden acceder a los recursos informáticos que necesitan dentro de servicios como GKE, Vertex AI y Batch, al tiempo que mejoran la utilización de los recursos y optimizan los costes asociados a la ejecución de cargas de trabajo de IA.

Con la llegada de la plataforma NVIDIA Blackwell a Google Distributed Cloud, las empresas ya pueden implementar de forma segura IA de agentes avanzada, incluidos modelos de Google Gemini, directamente en sus propios centros de datos en las instalaciones. Esta integración permite a las organizaciones aprovechar el rendimiento y la escalabilidad de IA innovadora para cargas de trabajo sensibles y reguladas, al tiempo que garantiza la privacidad de los datos, la soberanía y el cumplimiento normativo. Al combinar las fortalezas de Google Distributed Cloud y NVIDIA Blackwell, las empresas pueden acelerar la innovación con IA de próxima generación mientras mantienen el control total sobre sus datos y operaciones.

Google Cloud desarrolló una receta para la inferencia desagregada con NVIDIA Dynamo, una plataforma de alto rendimiento y baja latencia para modelos de IA de vanguardia. Esta receta facilita la implementación de NVIDIA Dynamo en la Google Cloud de AI Hypercomputer, que incluye Google Kubernetes Engine (GKE), el motor de inferencia vLLM y las instancias aceleradas por GPU A3 Ultra con tecnología de las GPU NVIDIA H200.

La familia de modelos abiertos NVIDIA Nemotron, que incluye Nemotron 3 Nano, estará disponible en Google Vertex AI Model Garden como microservicios NVIDIA NIM. Esta integración proporcionará a los desarrolladores y empresas acceso a los modelos líderes de pesos abiertos de NVIDIA. Con una implementación gestionada por Vertex AI, las organizaciones pueden desarrollar e implementar rápidamente agentes de IA personalizados impulsados por modelos de Nemotron, al tiempo que mantienen el control sobre el rendimiento, los costes y el cumplimiento.

NVIDIA Run:ai Model Streamer incluye compatibilidad nativa con Google Cloud Storage, lo que potencia las cargas de trabajo de inferencia de vLLM en Google Kubernetes Engine (GKE). Esta colaboración acelera la carga de los LLM desde el almacenamiento "en frío" a la memoria casi 5 veces para lograr una inferencia de IA más rápida, incluido un ejemplo que utiliza un modelo Meta Llama 3.3-70B de 141 GB.

Cluster Director es un servicio de Google Cloud diseñado para optimizar la implementación y la gestión de clústeres de IA y HPC a gran escala, acelerados por NVIDIA. Esto incluye compatibilidad total con sistemas de IA a gran escala, incluidas las máquinas virtuales A4X y A4X Max de Google Cloud con sistemas NVIDIA GB200 y GB300 NVL72. Google Cloud anunció la vista previa de la compatibilidad con Cluster Director para Slurm en GKE, utilizando la oferta Slinky de SchedMD, una empresa adquirida recientemente por NVIDIA.