Plataforma De Inferência Para Deep Learning Softwares e Aceleradores de Inferência para Cloud, Data Center, Edge e Máquinas Autônomas
Liberte Todo O Potencial Das GPUs Da NVIDIA Com a NVIDIA TensorRT A TensorRT é uma plataforma de inferência de alto desempenho que é a chave para liberar todo o poder das GPUs NVIDIA Tensor Core. Oferece taxa de transferência até 40X mais alta e minimiza a latência quando comparada a plataformas apenas com CPU. Usando a TensorRT, você pode começar de qualquer framework e otimizar, validar e implantar rapidamente redes neurais treinadas na linha de produção. O TensorRT também está disponível no catálogo NVIDIA NGC.
Inferência Em Deep Learning Unificada, Escalonável E De Ponta A Ponta Com uma arquitetura unificada, redes neurais em cada framework de deep learning podem ser treinadas e otimizadas com a NVIDIA TensorRT e, em seguida, implantadas para inferência em tempo real no edge. Com os sistemas NVIDIA DGX™ , NVIDIA Tesla®, NVIDIA Jetson™ e NVIDIA DRIVE, a NVIDIA oferece uma plataforma de deep learning de ponta a ponta totalmente escalonável, conforme mostrado no pacote de benchmark MLPerf.
Economia De Custos Em Escala Massiva Para manter os servidores em sua produtividade máxima, os gerentes de data center devem alternar entre desempenho e eficiência. Um único servidor NVIDIA Tesla T4 pode substituir vários servidores com CPU por aplicativos e serviços de inferência em deep learning, reduzindo gastos com energia e proporcionando economia tanto em aquisição quanto em custos operacionais.
Economia De Custos Em Escala Massiva Para manter os servidores em sua produtividade máxima, os gerentes de data center devem alternar entre desempenho e eficiência. Um único servidor NVIDIA Tesla T4 pode substituir vários servidores com CPU por aplicativos e serviços de inferência em deep learning, reduzindo gastos com energia e proporcionando economia tanto em aquisição quanto em custos operacionais.