This site requires Javascript in order to view all its content. Please enable Javascript in order to access all the functionality of this web site. Here are the instructions how to enable JavaScript in your web browser.

Сертифицированное по MLOps для систем NVIDIA DGX

Познакомьтесь с корпоративными решениями для оптимизации рабочих процессов, управления кластерами, планирования и оркестрации.

Оптимизация развертывания ИИ и рабочих процессов

Программа ПО NVIDIA DGX^™-Ready предлагает MLOps-решения корпоративного уровня, которые ускоряют рабочие процессы ИИ, а также оптимизируют развертывание, доступность и эффективность использования инфраструктуры ИИ. ПО DGX-Ready протестировано и сертифицировано для использования в системах DGX и позволяет максимально эффективно работать с вашей платформой ИИ.

Скачать техническую документацию

Инфраструктура ИИ с MLOps

Решения MLOps охватывают приложения для управления рабочими процессами ИИ, управление кластерами, оркестрацию конвейеров и планирование ресурсов для достижения максимальной эффективности при использовании инфраструктуры ИИ.

Схема классификации инфраструктуры ИИ для специалистов по data science, исследователей и системных администраторов.

Программные решения DGX-ready

Узнайте о сертифицированных программных решениях, разработанных нашими партнерами.

Все
MLOps
Управление кластерами и оркестрация
Планирование

Повысьте эффективность использования систем DGX с помощью MLOps

Смотреть запись

Weights & Biases

Weights & Biases (W&B) — это стек для специалистов в области машинного обучения. Используйте простые, интероперабельные инструменты для отладки и воспроизведения всего жизненного цикла проектов по машинному обучению. W&B доверяют более 150 000 специалистов в области машинного обучения. С помощью инструментов W&B они разрабатывают решения, позволяющие повысить эффективность медицинского обслуживания, безопасность беспилотных автомобилей и экологичность сельского хозяйства, а также обеспечить проведение современных исследований.

ПО MLOps Weight & Biases сертифицировано для использования с системами NVIDIA DGX и доступно для платформы NVIDIA Base Command.

Связаться

www.wandb.ai

ClearML

Решение ClearML предоставляет стек управления и оркестрации для систем DGX. С помощью ClearML команды могут упростить управление нагрузками, улучшить контроль и повысить наглядность в области данных и моделей, а также эффективнее вести совместную работу.

ClearML Orchestrate позволяет использовать одну или несколько систем NVIDIA DGX A100 и создавать кластеры как для удаленных виртуальных сред разработки, так и для поддержки масштабируемых задач обучения.

Материалы

Оптимизация процессов медицинской визуализации с NVIDIA DGX Station™ A100, NVIDIA Clara™ Imaging и ClearML (краткий обзор решения)

Связаться

www.clear.ml (Allegro AI)

Core Scientific

Core Scientific — лидер в области технологий ИИ и блокчейна, предоставляющий лучшие в своем классе инфраструктурные и программные решения.

Core Scientific Plexus предлагает специалистам по data science единый инструмент для оркестрации и развертывания нагрузок, а также управления ими с помощью оптимизированного под графические процессоры ПО для решения задач ИИ из каталога контейнеров NGC™ в системах NVIDIA DGX, расположенных в локальных центрах данных или на площадке совместного размещения.

Связаться

www.corescientific.com

Domino Data Lab

Платформа Domino Data Science централизует задачи обработки и анализа данных и инфраструктуру предприятия для быстрой и эффективной совместной работы при создании, обучении и развертывании моделей, а также при управлении ими. С помощью Domino специалисты по data science могут быстрее внедрять инновации, повторно использовать результаты работы и эффективнее сотрудничать, а ИТ-команды — управлять инфраструктурой.

Материалы

Как Lockheed Martin расширяет границы ракетостроения с помощью Data Science (вебинар в записи)

Связаться

www.dominodatalab.com

Determined AI

Determined представляет собой интегрированную платформу с открытым исходным кодом для организации глубокого обучения, которая упрощает и ускоряет создание моделей. Determined позволяет:

быстро проводить распределенное обучение моделей без изменения кода;
выполнять автоматический поиск высококачественных моделей с расширенной настройкой гиперпараметров от создателей Hyperband;
внедрять умное планирование использования ресурсов графических процессоров и сокращать для них расходы на облачные вычисления благодаря вытесняемым инстансам;
отслеживать эксперименты (без дополнительных настроек), включая версии кода, показатели, контрольные точки и гиперпараметры.

Связаться

www.determined.ai

Paperspace

Paperspace Gradient ускоряет и масштабирует разработку и развертывание готовых моделей машинного и глубокого обучения. Платформа работает на базе первого в отрасли механизма комплексной непрерывной интеграции и развертывания (CI/CD) для создания, обучения и развертывания моделей глубокого обучения. Лучшие в своем классе средства и методики машинного обучения Paperspace поддерживают мультиоблачные, локальные и гибридные среды для предприятий на современном рынке. Они также работают с решениями из каталога NVIDIA NGC и оптимизированы для систем NVIDIA DGX.

Связаться

www.paperspace.com

Red Hat OpenShift

Red Hat OpenShift — мощная и гибкая платформа гибридного облака с безграничными возможностями, которая позволяет разрабатывать всевозможные проекты из любой точки.

С OpenShift в рамках программы ПО DGX-Ready клиентам доступны проверенные и протестированные программные решения корпоративного уровня, которые прошли сертификацию OpenShift для работы на кластерах систем NVIDIA DGX. Платформа упрощает развертывание и масштабирование ИИ-инфраструктуры, а также управление ею. Партнеры экосистемы могут использовать OpenShift, чтобы вести масштабируемую разработку решений с возможностью повторения, а также осуществлять их поставку клиентам.

Связаться

www.openshift.com

Pachyderm

Pachyderm предоставляет слой данных, который позволяет командам внедрять жизненный цикл машинного обучения в производство и выполнять его масштабирование. Ведущая в отрасли система управления версиями Pachyderm прошла сертификацию для работы с системами NVIDIA DGX™. Она обеспечивает автоматизацию на основе данных, масштабируемость до петабайтов и непрерывную воспроизводимость для команд по работе с преобразованиями или конвейерами. Команды, использующие Pachyderm, быстрее выводят свои проекты по машинному обучению на рынок, снижают затраты на обработку и хранение данных и затрачивают меньше усилий на выполнение нормативных требований.

Связаться

https://www.pachyderm.com

D2iQ

D2iQ Kaptain — это полноценная корпоративная платформа для машинного обучения на базе Kubeflow, которая ускоряет процесс вывода на рынок и увеличивает рентабельность инвестиций, устраняя барьеры между прототипами машинного обучения и производственной средой. D2iQ Kaptain позволяет организациям разрабатывать и развертывать решения на базе машинного обучения в любом масштабе в гибридных и облачных средах.

D2iQ Konvoy — это самодостаточный дистрибутив, который предоставляет компаниям понятный интерфейс для корпоративного использования Kubernetes без дополнительной настройки. Решение Konvoy разработано на базе программного обеспечения с открытым исходным кодом с интегрированными и протестированными надстройками, необходимыми для операций второго дня. Его можно применять в гибридных и облачных средах.

Материалы

Платформа D2iQ Kubernetes и системы NVIDIA DGX (краткий обзор решения)

Связаться

https://d2iq.com/partners/nvidia

Run:AI

Компания Run:AI создала первую в мире платформу управления вычислениями для оркестрации и ускорения ИИ. Благодаря централизации и виртуализации вычислительных ресурсов графических процессоров платформа Run:AI повышает наглядность и улучшает контроль в области приоритизации и распределения ресурсов, а также оптимизирует рабочие процессы и обеспечивает удобное взаимодействие с инфраструктурой для специалистов по data science. Такой подход позволяет добиться соответствия проектов ИИ бизнес-целям и существенно повысить эффективность работы команд по data science, в результате чего они могут создавать и обучать параллельные модели без ограничений по ресурсам.

Материалы

Создание оптимального стека инфраструктуры ИИ для ускорения задач Data Science (вебинар в записи)

Связаться

www.run.ai

Shakudo

Платформа Hyperplane от компании Shakudo — это полноценная среда для команд в сфере машинного обучения. Hyperplane объединяет лучшие инструменты и фреймворки с открытым исходным кодом в одну заранее сконфигурированную и оптимизированную платформу, призванную максимально расширить возможности разработчиков. Цель компании Shakudo — предоставить единый пользовательский интерфейс и постоянно развивающуюся внутреннюю службу с поддержкой разных фреймворков и инфраструктур. При этом они должны сочетаться с популярными отраслевыми стеками для машинного обучения. Платформу Hyperplane легко настроить для работы на системах NVIDIA DGX. Полностью поддерживаются RAPIDS™, сервер инференса NVIDIA Triton™, NVIDIA Multi-Instance GPU (MIG) и другие впечатляющие технологии NVIDIA. Hyperplane охватывает полный жизненный цикл машинного обучения: разработка и экспериментирование, масштабирование моделей и их развертывание, операции по извлечению, преобразованию и загрузке данных, отслеживание экспериментов, мониторинг и диагностика эксплуатационных нагрузок в режиме реального времени и другие операции.

Связаться

https://shakudo.io

Canonical

Ubuntu от Canonical — это оптимизированная платформа для контейнеров NVIDIA DGX, NVIDIA EGX™, NVIDIA NGC™ и других, благодаря которой специалисты по data science и инженеры могут продуктивнее внедрять инновации. Решение Kubernetes от Canonical создано на базе оптимизированных образов Ubuntu и обеспечивает непревзойденную интеграцию и эксплуатацию для любой вычислительной среды. Защищенный мультиоблачный дистрибутив Kubernetes с высокой степенью совместимости и полной автоматизацией жизненного цикла предоставляет разработчикам примитивы и абстракции, позволяя им сосредоточиться на создании новейших решений ИИ в рамках систем NVIDIA DGX.

Материалы

http://www.microk8s.io/docs/nvidia-dgx

http://www.ubuntu.com/kubernetes/docs/nvidia-dgx

Связаться

www.ubuntu.com/kubernetes

www.microk8s.io/

IBM Spectrum LSF

Портфель пакетов IBM Spectrum^® LSF^® Suite — полноценное решение для управления нагрузками в ресурсоемких распределенных вычислительных средах. Оно помогает повысить эффективность работы пользователей и применения оборудования, а также снизить затраты на управление. Пакеты LSF Suite обеспечивают поддержку классических высокопроизводительных вычислений (HPC), больших данных, графических процессоров, машинного обучения (ML) и ИИ, а также контейнеризированных нагрузок в локальной среде и в облаке. Динамическое развертывание гибридного облака и интеллектуальное размещение данных помогают организациям контролировать расходы, обеспечивая возможность оплаты только за используемые ресурсы.

Материалы

Использование IBM Spectrum с системами NVIDIA DGX

Связаться

https://www.ibm.com/products/hpc-workload-management

SchedMD

SchedMD является основным разработчиком и поставщиком услуг для Slurm и оказывает услуги поддержки, консультирования, настройки, разработки и обучения для облачных и локальных кластеров.

Slurm — это лидирующий на рынке менеджер нагрузок с открытым исходным кодом, разработанный для самых сложных и требовательных систем высокопроизводительных вычислений (HPC), высокоэффективных вычислений (HTC) и систем ИИ. Slurm обеспечивает максимальную пропускную способность и надежность нагрузок, а также оптимизирует потребление ресурсов и управление нагрузками в облачных и локальных кластерах.

Slurm обеспечивает важнейшие возможности планирования для графических процессоров NVIDIA:

Manages GPUs similar to CPUs with flexible control for requesting GPUs and binding tasks to the GPU (GPU=первоклассный ресурс)
Поддержка технологии NVIDIA Multi-Instance GPU (MIG)
Автоматическое обнаружение ресурсов графического процессора
Разрешив нагрузки только для определенных выделенных графических процессоров, вы сможете запретить процессам использовать больше ресурсов, чем запрошено
Определение переменной среды CUDA_VISIBLE_DEVICES позволяет заданию выявить выделенный графический процессор

Материалы

Ускорение задач высокопроизводительных вычислений и ИИ с помощью Slurm и систем NVIDIA DGX

Связаться

www.schedmd.com/

Altair

Altair® PBS Professional® — это флагманское решение Altair для управления нагрузками и планирования заданий. Оно оптимизировано с точки зрения производительности в средах с графическими процессорами, включая системы NVIDIA DGX. PBS Professional включает поддержку планирования крупномасштабных нагрузок ИИ и высокопроизводительных вычислений (HPC) в многоузловых кластерах DGX, а также нагрузок отдельных графических процессоров с использованием технологии Multi-Instance GPU (MIG).

Материалы

Поддержка Altair PBS Professional для систем NVIDIA DGX

Сертифицированное по MLOps для систем NVIDIA DGX

Оптимизация развертывания ИИ и рабочих процессов

Инфраструктура ИИ с MLOps

Программные решения DGX-ready

Повысьте эффективность использования систем DGX с помощью MLOps

Weights & Biases

Связаться

Backend.AI

Связаться

Bright Computing

Связаться

ClearML

Материалы

Связаться

Core Scientific

Связаться

Domino Data Lab

Материалы

Связаться

Determined AI

Связаться

Iguazio

Связаться

Paperspace

Связаться

Red Hat OpenShift

Связаться

Pachyderm

Связаться

D2iQ

Материалы

Связаться

Run:AI

Материалы

Связаться

Shakudo

Связаться

Canonical

Материалы

Связаться

IBM Spectrum LSF

Материалы

Связаться

SchedMD

Материалы

Связаться

Altair

Материалы

Связаться