Acelere la innovación en la nube

Perplexity creó pplx-api con las GPU NVIDIA A100 Tensor Core en AWS y NVIDIA TensorRT™-LLM, logrando una latencia hasta 3,1 veces menor y una latencia del primer token 4,3 veces menor en comparación con otras plataformas. La empresa emergente redujo los costes de inferencia a una cuarta parte, lo que ahorró 600 000 dólares anuales, mientras escalaba a cientos de GPU, con las GPU NVIDIA H100 que ofrecen una latencia un 50 % menor y un rendimiento un 200 % mayor que los A100.

Noetik, miembro del programa NVIDIA Inception, utiliza las GPU NVIDIA Hopper™ Tensor Core en AWS SageMaker HyperPod para entrenar modelos de base multimodales para la inmunoterapia de precisión contra el cáncer. Esto permite el procesamiento de 1 petabyte de datos de tumores humanos, que perfilan más de 200 millones de células, para acelerar los descubrimientos terapéuticos y desbloquear tratamientos adaptados a cada paciente.

Fireworks.ai creó una solución de inferencia de IA generativa ultrarrápida y optimizada en relación con los costes con instancias de Amazon EC2 P5 con la tecnología de las GPU NVIDIA H100 Tensor Core. La plataforma ofrece un rendimiento por instancia cuatro veces superior al de las soluciones de código abierto, reduce la latencia hasta un 50 % y reduce los costes generales hasta cuatro veces para algunos clientes. Los desarrolladores pueden ejecutar, ajustar y personalizar modelos de base, incluidos Llama 2, Stable Diffusion XL y StarCoder, al tiempo que cumplen los estándares de cumplimiento HIPAA y SOC2 Tipo II.

A-Alpha Bio aceleró el descubrimiento de fármacos al implementar NVIDIA BioNeMo™ en AWS, logrando una inferencia 12 veces más rápida y procesando 108 millones de predicciones de unión a proteínas, 10 veces más de lo previsto inicialmente. Con instancias de Amazon EC2 P5 impulsadas por las GPU NVIDIA H100 Tensor Core, esta empresa emergente de biotecnología redujo los ciclos experimentales entre 1 y 2 iteraciones, lo que redujo los costos al tiempo que descubría candidatos de anticuerpos monoclonales superiores para terapéutica.

Synthesia transformó la producción de vídeo de IA al implementar instancias de Amazon EC2 con GPU NVIDIA, lo que permitió multiplicar por 30 el rendimiento de entrenamiento de modelos de aprendizaje automático. Con instancias P5 de Amazon EC2 con GPU NVIDIA H100 Tensor Core e instancias P4 con GPU NVIDIA A100, esta empresa emergente de IA redujo el tiempo de entrenamiento de modelos de voz de días a horas, al tiempo que admitió un crecimiento de usuarios del 456 %.

Innophore acelera el descubrimiento de fármacos con NVIDIA BioNeMo para analizar las estructuras de proteínas con su tecnología Catalophore. La plataforma completó el mapeo de las estructuras de proteínas de todo el organismo humano en dos semanas, una tarea que antes tardaba más de un año. Esto mejora la precisión en la predicción de los efectos de los fármacos fuera del objetivo en un 30 % dentro de los resultados de mejor clasificación.