Acelere a Inovação na Nuvem

A Perplexity criou a pplx-api usando GPUs NVIDIA A100 Tensor Core na AWS e o NVIDIA TensorRT™-LLM, alcançando uma latência até 3,1 vezes menor e uma latência do primeiro token 4,3 vezes menor em comparação com outras plataformas. A startup reduziu os custos de inferência em 4 vezes — economizando US$ 600 mil por ano — ao mesmo tempo em que escalava para centenas de GPUs, com GPUs NVIDIA H100 oferecendo latência 50% menor e taxa de transferência 200% maior do que as A100s.

A Noetik, membro do NVIDIA Inception Program, usa GPUs NVIDIA Hopper™ Tensor Core no AWS SageMaker HyperPod para treinar modelos fundamentais multimodais para imunoterapia de precisão do câncer. Isso permite o processamento de 1 petabyte de dados de tumores humanos — perfis de mais de 200 milhões de células — para acelerar a descoberta terapêutica e desbloquear tratamentos adaptados a pacientes individuais.

A Fireworks.ai criou uma solução de inferência de IA Generativa incrivelmente rápida e com custo otimizado usando instâncias do Amazon EC2 P5 com tecnologia de GPUs NVIDIA H100 Tensor Core. A plataforma oferece uma taxa de transferência por instância 4 vezes maior do que as soluções de código aberto, reduz a latência em até 50% e reduz os custos gerais em 4 vezes para alguns clientes. Os desenvolvedores podem executar, ajustar e personalizar modelos fundamentais, incluindo Llama 2, Stable Diffusion XL e StarCoder, tudo atendendo aos padrões de conformidade HIPAA e SOC2 Tipo II.

A A-Alpha Bio acelerou a descoberta de medicamentos ao implantar o NVIDIA BioNeMo™ on AWS, alcançando uma inferência 12 vezes mais rápida e processando 108 milhões de previsões de ligação a proteínas — dez vezes mais do que o planejado inicialmente. Usando instâncias do Amazon EC2 P5 com tecnologia de GPUs NVIDIA H100 Tensor Core, a startup de biotecnologia reduziu os ciclos experimentais em 1 a 2 iterações, diminuindo custos e ainda descobrindo candidatos a anticorpos monoclonais superiores para terapias.

A Synthesia transformou a produção de vídeos de IA ao implantar instâncias do Amazon EC2 com tecnologia de GPU da NVIDIA, alcançando uma melhoria de 30 vezes na taxa de transferência de treinamento de modelos de ML. Usando instâncias do Amazon EC2 P5 com GPUs NVIDIA H100 Tensor Core e instâncias P4 com GPUs NVIDIA A100, a startup de IA reduziu o tempo de treinamento para modelos de voz de dias para horas, ao mesmo tempo em que suportou o crescimento de 456% de usuários.

A Innophore acelera a descoberta de medicamentos usando o NVIDIA BioNeMo para analisar estruturas de proteínas com sua tecnologia Catalophore. A plataforma concluiu o mapeamento das estruturas de proteínas de todo o organismo humano em duas semanas — uma tarefa que antes levava mais de um ano. Isso aumenta em 30% a precisão na previsão de efeitos colaterais de medicamentos entre os resultados principais.