В какой-то момент я осознал, почему мне не очень интересно участвовать в соревнованиях по ML. Большая часть задач ушла от инженеринга, придумывания трюков к простому зарешиванию большим количеством железа больших же моделей. Нет, я не говорю, что креатив выветрился полностью - но его стало куда меньше. Есть люди в ОДС, которые на одной GTX 1060 в ноутбуке умудрялись по 3-4 золотых медали брать, это круто.
Моя же цель участия - это научиться чему-то, разобрать новую тему. По этой причине 3 моих последних соревнования - это мультимодальные трансформеры от СберБанка (одна модель на несколько очень разных задач), и дважды 3D-детекция в облаках точек (применяется в автопилотах). Это темы, для которых еще нет готового решения из коробки, нужно копаться, вертеться, а хорошие идеи могут дать не +0.1% метрики, а целых +5-10%, что существенно продвинет участника на лидерборде.
Неделю назад мне повезло узнать, что готовится соревнование от ODS x ВТБ. Сегодня запуск, вот ссылка: тык.
У задачи есть два трека - атака и защита банковской модели. Дана модель скоринга дефолта по выплате от клиента, и вы можете некоторым образом изменять тренировочные данные, чтобы "испортить" модель - это атака. А защита, в свою очередь, это разработка такого принципа обучения модели (ну и её архитектуры), чтобы на шумных данных модель не деградировала.
Интересен и принцип определения победителей - подходы будут "играть" друг с другом, то есть меч схлестнётся со щитом, атака пойдет на защиту. Будем посмотреть, что выйдет в конце - появится ли явное преимущество одной стороны над другой? Как будут меняться, эволюционировать подходы в течение 2 месяцев соревнования?
Для интересующихся прикладываю пять статей по теме разработки систем атаки и защиты моделей:
- (1) Don't sweat the small stuff, classify the rest: Sample Shielding to protect text classifiers against adversarial attacks
- (2) Adversarial Attacks on Deep Models for Financial Transaction Records
- (3) Defense Methods Against Adversarial Examples for Recurrent Neural Networks
- (4) Crafting Adversarial Input Sequences for Recurrent Neural Networks
- (5) Robustness against adversarial attacks on deep neural networks
Начать разбираться в топике можно с них, ну а дальше - чистый полет мысли!
В общем, соревнование очень необычное, и это отличный повод научиться чему-то новому вне рамок типовых задач классификации-регрессии.
Еще разочек ссылка на соревнование: щёлк!
Моя же цель участия - это научиться чему-то, разобрать новую тему. По этой причине 3 моих последних соревнования - это мультимодальные трансформеры от СберБанка (одна модель на несколько очень разных задач), и дважды 3D-детекция в облаках точек (применяется в автопилотах). Это темы, для которых еще нет готового решения из коробки, нужно копаться, вертеться, а хорошие идеи могут дать не +0.1% метрики, а целых +5-10%, что существенно продвинет участника на лидерборде.
Неделю назад мне повезло узнать, что готовится соревнование от ODS x ВТБ. Сегодня запуск, вот ссылка: тык.
У задачи есть два трека - атака и защита банковской модели. Дана модель скоринга дефолта по выплате от клиента, и вы можете некоторым образом изменять тренировочные данные, чтобы "испортить" модель - это атака. А защита, в свою очередь, это разработка такого принципа обучения модели (ну и её архитектуры), чтобы на шумных данных модель не деградировала.
Интересен и принцип определения победителей - подходы будут "играть" друг с другом, то есть меч схлестнётся со щитом, атака пойдет на защиту. Будем посмотреть, что выйдет в конце - появится ли явное преимущество одной стороны над другой? Как будут меняться, эволюционировать подходы в течение 2 месяцев соревнования?
Для интересующихся прикладываю пять статей по теме разработки систем атаки и защиты моделей:
- (1) Don't sweat the small stuff, classify the rest: Sample Shielding to protect text classifiers against adversarial attacks
- (2) Adversarial Attacks on Deep Models for Financial Transaction Records
- (3) Defense Methods Against Adversarial Examples for Recurrent Neural Networks
- (4) Crafting Adversarial Input Sequences for Recurrent Neural Networks
- (5) Robustness against adversarial attacks on deep neural networks
Начать разбираться в топике можно с них, ну а дальше - чистый полет мысли!
В общем, соревнование очень необычное, и это отличный повод научиться чему-то новому вне рамок типовых задач классификации-регрессии.
Еще разочек ссылка на соревнование: щёлк!