💬 Страховая компания Lemonade извинилась за некорректное толкование собственной ИИ-системы, которая с помощью распознавания лиц проверяет пользователей на предмет мошенничества.
До этого компания похвасталась, что ее алгоритм улавливает более 1000 «невербальных» сигналов, которые «традиционные страховщики» не могут выявить.
🙅 Пользователи и эксперты обвинили технологию в потенциальной предвзятости. Они отметили, что система может неправильно истолковать выражение лица человека в шоковом состоянии и заподозрить его в мошенничестве.
В компании заявили, что они не используют алгоритмы распознавания эмоций и никогда не поручали ИИ принимать решения об отклонении заявлений. Однако в прошлом году перед IPO в Lemonade говорили, что их ИИ обрабатывает треть всех случаев и принимает решение о выплате или отклонении претензии без вмешательства человека.
#отслеживание
До этого компания похвасталась, что ее алгоритм улавливает более 1000 «невербальных» сигналов, которые «традиционные страховщики» не могут выявить.
🙅 Пользователи и эксперты обвинили технологию в потенциальной предвзятости. Они отметили, что система может неправильно истолковать выражение лица человека в шоковом состоянии и заподозрить его в мошенничестве.
В компании заявили, что они не используют алгоритмы распознавания эмоций и никогда не поручали ИИ принимать решения об отклонении заявлений. Однако в прошлом году перед IPO в Lemonade говорили, что их ИИ обрабатывает треть всех случаев и принимает решение о выплате или отклонении претензии без вмешательства человека.
#отслеживание