Комплексная платформа инференса для создания городов с искусственным интеллектом

УСКОРЕННАЯ ОБРАБОТКА ДАННЫХ ДЛЯ ПОЛУЧЕНИЯ ИНФОРМАЦИИ В РЕАЛЬНОМ ВРЕМЕНИ

Современные города усыпаны видеокамерами, и к 2020 году их общее число достигнет одного миллиарда. И все эти камеры каждый день генерируют огромные объемы данных. Использование алгоритмов глубокого обучения – единственный способ превратить необработанные видеоданные в полезную информацию, а инференс силами GPU – единственная возможность делать это в реальном времени. Города, оснащенные системами на основе NVIDIA METROPOLIS,  могут помочь сделать жизнь удобнее и безопаснее для всех жителей, начиная от водителей и пешеходов и заканчивая ритейлерами и покупателями.

End-To-End GPU Inference

ИНФЕРЕНС НА GPU

Извлечение полезной информации из большого объема видеоданных требует проведения инференса как на борту конечных устройств, так и в облаке. Чтобы предложить пользователям комплексное решение с искусственным интеллектом, NVIDIA Metropolis опирается на решения  NVIDIA Jetson™  с низким потреблением энергии в камерах и других конечных устройствах и использует огромную вычислительную мощь серверов на базе NVIDIA Tesla P4 в облаке. GPU обеспечивают лучшую пропускную способность и производительность на ватт, низкие задержки и максимальную плотность канала передачи данных, что ведет к снижению эксплуатационных расходов в масштабе всей городской сети.

AI For Embedded Devices

ИСКУССТВЕННЫЙ ИНТЕЛЛЕКТ ВО ВСТРАИВАЕМЫХ УСТРОЙСТВАХ

NVIDIA Jetson TX2 – суперкомпьютер для задач искусственного интеллекта, устанавливаемый на конечные устройства. Этот модуль размером с кредитную карту, потребляющий всего 7,5 Вт энергии, построен на архитектуре GPU NVIDIA Pascal™ и имеет 8 ГБ оперативной памяти и более 1 терафлопс вычислительной мощности.

Библиотека NVIDIA TensorRT™ дополнительно оптимизирует и настраивает модели глубокого обучения, способствуя промышленному развертыванию приложений lглубокого обучения. TensorRT используется, чтобы быстро оптимизировать, проверять и развертывать натренированные нейронные сети для проведения инференса в сверхмасштабируемых дата-центрах, конечных приложениях и других встраиваемых платформах.

NVIDIA Tesla® оптимизирует производительность искусственного интеллекта за счет ускорения тренировки алгоритмов и инференса в дата-центре

Вместе эти решения обеспечивают исключительную производительность и энергоэффективность искусственного интеллекта в разных конечных устройствах, включая робототехнику, портативную медицинскую технику, смарт-камеры и видеорегистраторы.

Superhuman Video Processing For Real-World Applications

ОБРАБОТКА ВИДЕО ДЛЯ РЕАЛЬНЫХ ПРИЛОЖЕНИЙ

Почти 100 партнеров NVIDIA используют единую платформу Metropolis для создания городов с искусственным интеллектом. Один из партнеров, компания Verizon, сотрудничает с властями разных городов, устанавливая смарт-камеры на основе платформы NVIDIA на уличных фонарях и в других местах, обеспечивающих хороший обзор.

Высокопроизводительные операции инференса проводятся на конечном устройстве силами NVIDIA Jetson, а в серверах и дата-центрах – на ускорителях NVIDIA Tesla. Массивно параллельные вычисления на GPU позволяют проводить инференс с незначительным привлечением ресурсов CPU. Это означает более эффективный анализ данных в режиме реального времени и снижение затрат на хранение и потоковую передачу видео по сетям LTE и Wi-Fi.

В результате Verizon получает возможность отслеживать и классифицировать такие объекты, как транспортные средства, велосипедисты и пешеходы, и определять их взаимодействие в реальном времени. Благодаря этому городские власти могут круглосуточно отслеживать происходящее в городе, начиная от поворотов на запрещающий сигнал светофора и заканчивая движением пешеходов в неположенном месте и соблюдением правил парковки. 

ХОТИТЕ УЗНАТЬ, КАК NVIDIA METROPOLIS МОЖЕТ ИЗМЕНИТЬ ВАШ ГОРОД?