Cómo implementar, ejecutar y escalar modelos de IA con facilidad

Lee este informe técnico para obtener consejos y prácticas recomendadas sobre estandarización y optimización de la inferencia de IA de producción.

Regístrate ahora

¿Qué aprenderás?

Hacer avanzar tu proyecto de IA hasta producción puede ser complicado. Aprende a estandarizar y optimizar tu inferencia de IA en múltiples marcos de trabajo de modelos, diferentes tipos de consulta e infraestructura diversa de CPU y GPU con el servidor de inferencia NVIDIA Triton™.

Desafíos para implementar modelos de IA en producción

Múltiples marcos de trabajo

La existencia de varios marcos de trabajo de deep learning (DL) y aprendizaje automático (ML), cada uno con su propio backend de ejecución de modelos, puede ser problemático.

Infraestructura mixta

Puede ser difícil administrar soluciones dispares para la infraestructura basada en CPU y GPU en la nube, en el centro de datos y en el perímetro.

Implementación escalable

La falta de integración con las plataformas y herramientas de producción puede hacer que la implementación de IA sea costosa y difícil.

Tipos de inferencia dispares

Los distintos tipos de inferencia (en tiempo real, por lotes, streaming de audio y ensamblado) requieren diferentes tipos de optimizaciones.

Registrarse para acceder al informe técnico

Section

Section

Nombre

Apellidos

Dirección de correo electrónico profesional

Nombre de la organización/universidad

Sector industrial

Cargo

Ubicación

Idioma preferido

estado/provincia

¿Estás utilizando Triton?

Sí

enterpriseOptIns hidden field

Envíame las últimas novedades de noticias empresariales, así como anuncios y otra información de NVIDIA. Puedo cancelar la suscripción en cualquier momento.

enterpriseOptIns hidden field

Envíame las últimas novedades de soluciones para desarrolladores, así como anuncios y otra información de NVIDIA. Puedo cancelar la suscripción en cualquier momento.

Política de privacidad de NVIDIA

本人知悉且同意 NVIDIA 基于调研、活动组织的目的对本人的上述信息的收集和处理，并已经阅读并同意 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/?deeplink=visiting-our-website" target="_blank">NVIDIA 隐私政策</a>。

本人知悉且同意，因调研、活动组织的必须，以及相对应的 NVIDIA 内部管理和系统操作的需要，上述信息会被传输到位于美国的 NVIDIA Corporation 按照符合 <a href="https://www.nvidia.cn/about-nvidia/privacy-policy/?deeplink=visiting-our-website" target="_blank">NVIDIA 隐私政策</a>的方式进行存储，您可以通过发送邮件至 <a href="mailto:privacy@nvidia.com">privacy@nvidia.com</a> 进行联系以解决相关问题，实现可适用的数据保护法所规定的权利。