Acelere la Innovación en la Nube

Perplexity desarrolló pplx-api mediante las GPU NVIDIA A100 Tensor Core en AWS y NVIDIA TensorRT™-LLM, logrando una latencia hasta 3.1 veces menor y una latencia del primer token 4.3 veces menor en comparación con otras plataformas. La startup redujo 4 veces los costos de inferencia, lo que genera un ahorro de USD 600,000 anuales, a la vez que escaló a cientos de GPU, y las GPU NVIDIA H100 ofrecen una latencia un 50 % menor y un rendimiento un 200 % mayor que las A100.

Noetik, un miembro del Programa NVIDIA Inception, usa las GPU NVIDIA Hopper™ Tensor Core en AWS SageMaker HyperPod para entrenar modelos fundacionales multimodales para la inmunoterapia de precisión contra el cáncer. Esto permite el procesamiento de 1 petabyte de datos de tumores humanos (lo que crea perfiles de más de 200 millones de células) para acelerar el descubrimiento terapéutico y habilitar tratamientos adaptados para pacientes individuales.

Fireworks.ai desarrolló una solución de inferencia de IA generativa ultrarrápida y con costo optimizado mediante instancias de Amazon EC2 P5 impulsadas por las GPU NVIDIA H100 Tensor Core. La plataforma ofrece un rendimiento por instancia 4 veces mayor que las soluciones de código abierto, reduce la latencia en hasta un 50 % y reduce 4 veces los costos generales para algunos clientes. Los desarrolladores pueden ejecutar, ajustar y personalizar modelos fundacionales, como Llama 2, Stable Diffusion XL y StarCoder, a la vez que cumplen con los estándares de cumplimiento de HIPAA y SOC2 Tipo II.

A-Alpha Bio aceleró el descubrimiento de fármacos al implementar NVIDIA BioNeMo™ en AWS, lo que logró una inferencia 12 veces más rápida y el procesamiento de 108 millones de predicciones de unión a proteínas, diez veces más de lo planificado inicialmente. Mediante las instancias de Amazon EC2 P5 impulsadas por las GPU NVIDIA H100 Tensor Core, la startup de biotecnología redujo los ciclos experimentales en 1 o 2 iteraciones, lo que reduce los costos a la vez que descubre candidatos a anticuerpos monoclonales superiores para la terapéutica.

Synthesia transformó la producción de video de IA mediante la implementación de instancias de Amazon EC2 impulsadas por GPU de NVIDIA, lo que logra una mejora de 30 veces en el rendimiento de entrenamiento de modelos de ML. Mediante las instancias de Amazon EC2 P5 con las GPU NVIDIA H100 Tensor Core e instancias P4 con las GPU NVIDIA A100, la startup de IA redujo el tiempo de entrenamiento para modelos de voz de días a horas, a la vez que admite un crecimiento de usuarios del 456 %.

Innophore acelera el descubrimiento de fármacos mediante NVIDIA BioNeMo para analizar estructuras de proteínas con su tecnología Catalophore. La plataforma completó el mapeo de las estructuras de proteínas de todo el organismo humano en dos semanas, una tarea que anteriormente tomaba más de un año. Esto mejora la precisión en la predicción de los efectos de fármacos fuera del objetivo en un 30 % dentro de los éxitos de clasificación superior.