Production ML: как настроить GPU-ноды в кластерах Kubernetes?
На практическом вебинаре покажем особенности работы с кластерами Kubernetes c GPU, настройку драйверов на GPU-нодах и масштабирование нагрузки в продакшене ML-сервисов. Обсудим практические кейсы использования GPU-нод в кластерах Kubernetes от клиентов Selectel.
Инструменты и технологии
Selectel Managed Kubernetes c GPU
Nvidia GPU Operator
Nvidia GPU Drivers
Nvidia GPU Exporter
Nvidia Multi-Instance GPU
Программа
Обзор возможностей Облачной платформы и Managed Kubernetes для работы с GPU
Особенности запуска и масштабирования ML-проектов в K8S
Разбор практических кейсов использования GPU-нод в кластерах Kubernetes
Воркшоп: запуск ML-сервиса в Kubernetes. Подготовка кластера, настройка драйверов на GPU-нодах и запуск автоскейлинга
Спикеры
Антон Алексеев, DevOps-инженер Data и ML-продуктов
Екатерина Пяткова, продакт-менеджер продукта Managed Kubernetes
.
Кому будет полезно
DevOps-, ML- и MLOps-инженерам
Техническим директорам и лидам
Data scientists
Менеджерам ML-проектов
.
Регистрация на вебинар
Мероприятие бесплатное. Задайте вопрос в форме регистрации, и мы ответим на него во время трансляции.
Все участники получат запись и смогут принять участие в розыгрыше приза за лучший вопрос.
