Исследователи из MIT разработали SPPL: вероятностный язык программирования для оценки степени предвзятости искусственного интеллекта.
#ai_inside #tech
Проблема предвзятости ИИ — одна из самых острых в современном мире, и решения ей пока нет. Системы распознавания лиц плохо работают на лицах афроамериканцев, нейронки для super-resolution осветляют кожу людей, а ИИ для приема на работу предпочитает нанимать мужчин, нежели женщин.
SPPL обешает быть более эффективным, чем системы для оценки предвзятости, которые создавались ранее. Главное преимущество SPPL — скорость: он работает в ~3500 раз быстрее, чем аналоги.
Вот примеры запросов, которые можно обрабатывать с помощью SPPL:
- Какова вероятность того, что данный ИИ одобрит кредит человеку старше 40 лет?
- Выдайте 100 наиболее вероятных профилей, чья заявка на кредит будет одобрена с вероятностью 1
- Одинакова ли вероятность получения кредита иммигрантом и не иммигрантом с одинаковым социально-экономическим статусом?
К сожалению, SPPL пока работает только к классическими моделями ML: нейросети пока не поддерживаются.
Но будем надеяться, что такой инструмент продвинет нас в достижении непредвзятого ИИ ❤️
#ai_inside #tech
Проблема предвзятости ИИ — одна из самых острых в современном мире, и решения ей пока нет. Системы распознавания лиц плохо работают на лицах афроамериканцев, нейронки для super-resolution осветляют кожу людей, а ИИ для приема на работу предпочитает нанимать мужчин, нежели женщин.
SPPL обешает быть более эффективным, чем системы для оценки предвзятости, которые создавались ранее. Главное преимущество SPPL — скорость: он работает в ~3500 раз быстрее, чем аналоги.
Вот примеры запросов, которые можно обрабатывать с помощью SPPL:
- Какова вероятность того, что данный ИИ одобрит кредит человеку старше 40 лет?
- Выдайте 100 наиболее вероятных профилей, чья заявка на кредит будет одобрена с вероятностью 1
- Одинакова ли вероятность получения кредита иммигрантом и не иммигрантом с одинаковым социально-экономическим статусом?
К сожалению, SPPL пока работает только к классическими моделями ML: нейросети пока не поддерживаются.
Но будем надеяться, что такой инструмент продвинет нас в достижении непредвзятого ИИ ❤️