Павел Филонов - Паттерны инференса ML-моделей
3-4 июня - Секция Reliable ML на Data Fest 2023
Во время Data Fest 2023 на нашей секции Reliable ML состоится доклад "Паттерны инференса ML-моделей" от Павла Филонова, независимого консультанта в области ML, преподавателя MLOps в OTUS и ex-DS Lead в Kaspersky.
Давайте представим, что вы уже прошли часть пути по успешной реализации ML проекта. Договорились по поводу бизнес-метрик, получили доступ к данным, организовали разметку, обучили несколько моделей и выбрали лучшую с помощью валидации. Теперь пришло время запускать ее на инференс на реальных данных, но какой из различных вариантов таких запусков выбрать и какие инструменты для этого использовать?
В докладе обсудим 3 паттерна инференса моделей:
- пакетная обработка;
- потоковый инференс;
- REST интерфейс для модели.
Рассмотрим в каком случае лучше подходит тот или иной паттерн. Как они повлияют на пропускную способность и задержку. И какие подходящие инструменты для их реализации можно использовать.
Регистрация на мероприятие тут.
Расписание будет сформировано в конце мая.
Ваш @Reliable ML
#анонс #tech #mlops #datafest2023
3-4 июня - Секция Reliable ML на Data Fest 2023
Во время Data Fest 2023 на нашей секции Reliable ML состоится доклад "Паттерны инференса ML-моделей" от Павла Филонова, независимого консультанта в области ML, преподавателя MLOps в OTUS и ex-DS Lead в Kaspersky.
Давайте представим, что вы уже прошли часть пути по успешной реализации ML проекта. Договорились по поводу бизнес-метрик, получили доступ к данным, организовали разметку, обучили несколько моделей и выбрали лучшую с помощью валидации. Теперь пришло время запускать ее на инференс на реальных данных, но какой из различных вариантов таких запусков выбрать и какие инструменты для этого использовать?
В докладе обсудим 3 паттерна инференса моделей:
- пакетная обработка;
- потоковый инференс;
- REST интерфейс для модели.
Рассмотрим в каком случае лучше подходит тот или иной паттерн. Как они повлияют на пропускную способность и задержку. И какие подходящие инструменты для их реализации можно использовать.
Регистрация на мероприятие тут.
Расписание будет сформировано в конце мая.
Ваш @Reliable ML
#анонс #tech #mlops #datafest2023