Accélérer l'innovation dans le Cloud

Perplexity a créé pplx-api à l'aide de GPU NVIDIA A100 Tensor Core sur AWS et NVIDIA TensorRT™-LLM, permettant d'atteindre une latence jusqu'à 3,1 fois inférieure et une latence du premier jeton 4,3 fois inférieure par rapport à d'autres plateformes. La startup a réduit les coûts d'inférence par 4, soit une économie annuelle de 600 000 dollars, tout en passant à des centaines de GPU, avec les GPU NVIDIA H100 offrant une latence inférieure de 50 % et un débit supérieur de 200 % à celui des A100.

Noetik, membre du programme NVIDIA Inception, utilise des GPU NVIDIA Hopper™ Tensor Core sur AWS SageMaker HyperPod pour entraîner des modèles de fondation multimodaux pour l'immunothérapie de précision contre le cancer. Cela permet le traitement d'1 pétaoctet de données tumorales humaines, le profilage de plus de 200 millions de cellules, pour accélérer la découverte thérapeutique et débloquer des traitements adaptés à chaque patient.

Fireworks.ai a créé une solution d'inférence d'IA générative ultra-rapide et optimisée à l'aide d'instances Amazon EC2 P5 alimentées par des GPU NVIDIA H100 Tensor Core. Cette plateforme offre un débit par instance 4 fois supérieur à celui des solutions open source, réduit la latence jusqu'à 50 % et réduit les coûts globaux par 4 pour certains clients. Les développeurs peuvent exécuter, affiner et personnaliser des modèles fondamentaux, notamment Llama 2, Stable Diffusion XL et StarCoder, tout en répondant aux normes de conformité HIPAA et SOC2 Type II.

A-Alpha Bio a accéléré la découverte de médicaments en déployant NVIDIA BioNeMo™ sur AWS, en réalisant une inférence 12 fois plus rapide et en traitant 108 millions de prévisions de liaison aux protéines, soit 10 fois plus que ce qui était initialement prévu. À l'aide d'instances Amazon EC2 P5 alimentées par des GPU NVIDIA H100 Tensor Core, cette startup biotech a réduit les cycles expérimentaux de 1 à 2 itérations, réduisant ainsi les coûts tout en découvrant des anticorps monoclonaux candidats supérieurs pour les produits thérapeutiques.

Synthesia a transformé la production vidéo d'IA en déployant des instances Amazon EC2 basées sur des GPU NVIDIA, permettant d'améliorer par 30 fois le débit d'entraînement des modèles ML. À l'aide d'instances Amazon EC2 P5 avec des GPU NVIDIA H100 Tensor Core et d'instances P4 avec des GPU NVIDIA A100, cette startup d'IA a réduit la durée d'entraînement pour les modèles vocaux de plusieurs jours à quelques heures, tout en prenant en charge une croissance d'utilisateurs de 456 %.

Innophore accélère la découverte de médicaments à l'aide de NVIDIA BioNeMo pour analyser les structures protéiques avec sa technologie Catalophore. La plateforme a terminé la cartographie des structures protéiques de l'ensemble de l'organisme humain en deux semaines, une tâche qui prenait auparavant plus d'un an. Cela améliore la précision dans la prévision des effets hors cible des médicaments de 30 % dans les résultats les mieux classés.