Большая проблема алгоритмов, построенных на нейросетях и машинном обучении в том, что результаты их работы крайне сложно объяснить.
Не понятно, какой именно фактор влияет на итоговое решение. Например, смотрите наш пост на прошлой неделе про прогноз смерти на базе данных ЭКГ.
Этот факт становится особенно критичным в HR, при наличии законодательства типа GDPR (европейский закон о защите персональных данных в Интернет). В этом законе есть “right to explain” - человек имеет право потребовать объяснения работы алгоритма, если это влияет на его карьеру или жизнь.
Провайдеры сервисов ИИ не могут не беспокоится по этому поводу. И вот Google выпустил бета-версию Explaiable API. Это сервис, дополняющий AI инструменты Google, технологиями для объяснения результатов работы алгоритмов.
Подробнее читайте на Habr:
https://m.habr.com/ru/news/t/477216/
Вероятно, скоро стоит ждать ответа от Microsoft и Amazon.
Не понятно, какой именно фактор влияет на итоговое решение. Например, смотрите наш пост на прошлой неделе про прогноз смерти на базе данных ЭКГ.
Этот факт становится особенно критичным в HR, при наличии законодательства типа GDPR (европейский закон о защите персональных данных в Интернет). В этом законе есть “right to explain” - человек имеет право потребовать объяснения работы алгоритма, если это влияет на его карьеру или жизнь.
Провайдеры сервисов ИИ не могут не беспокоится по этому поводу. И вот Google выпустил бета-версию Explaiable API. Это сервис, дополняющий AI инструменты Google, технологиями для объяснения результатов работы алгоритмов.
Подробнее читайте на Habr:
https://m.habr.com/ru/news/t/477216/
Вероятно, скоро стоит ждать ответа от Microsoft и Amazon.