В MIT теперь учат на психопатов🔪
В рамках эксперимента искусственный интеллект Norman, различающий изображения, обучили на трагичных фотографиях вместо станартных датасетов.
В итоге там где "нормальный" ИИ видит человека, держащего зонтик, Norman видит застреленного мужчину перед кричащей женой.
Тем самым ученые наглядно показали простую истину: данные важнее алгоритмов.
Ведь именно на сгенирированных людьми данных обучался майкрософтский чат-бот Tay, который в итоге стал топить за Гитлера. После таких же данных одна из интеллектуальных программ, используемых в государственной системе США, стала расистской, а ИИ, обученный на новостном разделе Гугла превратился в сексиста.
Даже у людей мозги функционально одинаковы (алгоритм), но мировоззрение может отличаться радикально (данные, на которых мы "выросли").
Бывший топ-менеджер того же Майкрософт Дэйв Коплин по этому поводу сказал следующее:
"Мы обучаем алгоритмы так же, как учим людей, поэтому есть риск, что не всему мы учим правильно".
https://www.bbc.com/news/technology-44040008
В рамках эксперимента искусственный интеллект Norman, различающий изображения, обучили на трагичных фотографиях вместо станартных датасетов.
В итоге там где "нормальный" ИИ видит человека, держащего зонтик, Norman видит застреленного мужчину перед кричащей женой.
Тем самым ученые наглядно показали простую истину: данные важнее алгоритмов.
Ведь именно на сгенирированных людьми данных обучался майкрософтский чат-бот Tay, который в итоге стал топить за Гитлера. После таких же данных одна из интеллектуальных программ, используемых в государственной системе США, стала расистской, а ИИ, обученный на новостном разделе Гугла превратился в сексиста.
Даже у людей мозги функционально одинаковы (алгоритм), но мировоззрение может отличаться радикально (данные, на которых мы "выросли").
Бывший топ-менеджер того же Майкрософт Дэйв Коплин по этому поводу сказал следующее:
"Мы обучаем алгоритмы так же, как учим людей, поэтому есть риск, что не всему мы учим правильно".
https://www.bbc.com/news/technology-44040008