🎓 Программа для борьбы со списыванием во время экзаменов Proctorio не распознавала темнокожих учеников.
Один из пострадавших студентов решил разобраться с проблемным алгоритмом и выяснил, что разработчики ПО использовали модель компьютерного зрения с открытым исходным кодом OpenCV.
👨💻 Он попытался создать похожий алгоритм и проверить его на тестовом наборе данных с изображениями разных людей. Выяснилось, что модель на OpenCV не распознавала лица темнокожих в половине случаев, а самый высокий показатель точности для других национальностей составил 75%.
Представители Proctorio не прокомментировали работу алгоритма определения лиц. Они лишь заявили, что исследование студента подтвердило — их ПО только определяет лица на видео, но не распознает личности, связанные с ними.
https://forklog.com/?p=131232
#отслеживание
Один из пострадавших студентов решил разобраться с проблемным алгоритмом и выяснил, что разработчики ПО использовали модель компьютерного зрения с открытым исходным кодом OpenCV.
👨💻 Он попытался создать похожий алгоритм и проверить его на тестовом наборе данных с изображениями разных людей. Выяснилось, что модель на OpenCV не распознавала лица темнокожих в половине случаев, а самый высокий показатель точности для других национальностей составил 75%.
Представители Proctorio не прокомментировали работу алгоритма определения лиц. Они лишь заявили, что исследование студента подтвердило — их ПО только определяет лица на видео, но не распознает личности, связанные с ними.
https://forklog.com/?p=131232
#отслеживание