Как роботы и искусственный интеллект выходят из-под контроля? (Часть 2)
5. Робот против феминисток:
В 2016-м шуму наделал робот Tay корпорации Microsoft. Вскоре после запуска бот, обитавший в Twitter, заявил, что «люди — суперкрутые». Однако спустя сутки его отношение к «кожаным мешкам» стало меняться на резко негативное, больше всех доставалось феминисткам. Тогда бота подкрутили, и он вновь возлюбил сторонников полового равноправия.
Проблемы объяснили влиянием общества: ИИ обучается на том, что видит и слышит. Какие данные — такое и поведение: влияя на источники информации и их содержание, можно свести с ума даже искусственный интеллект. Кстати, с Tay так и произошло через неделю после запуска: вначале он признался в употреблении веществ, а затем начал нести несусветную чушь. После этого бота отправили в изоляцию, где он находится до сих пор.
6. Китайский робот, оскорбляющий коммунизм:
Из-под контроля выходили даже официальные китайские ИИ и чат-боты на их базе. Как-то Baby Q от Tencent QQ назвал коммунизм коррумпированным и бесполезным строем. Само собой, бота оперативно нормализовали.
#ИИнтересное #роботы
5. Робот против феминисток:
В 2016-м шуму наделал робот Tay корпорации Microsoft. Вскоре после запуска бот, обитавший в Twitter, заявил, что «люди — суперкрутые». Однако спустя сутки его отношение к «кожаным мешкам» стало меняться на резко негативное, больше всех доставалось феминисткам. Тогда бота подкрутили, и он вновь возлюбил сторонников полового равноправия.
Проблемы объяснили влиянием общества: ИИ обучается на том, что видит и слышит. Какие данные — такое и поведение: влияя на источники информации и их содержание, можно свести с ума даже искусственный интеллект. Кстати, с Tay так и произошло через неделю после запуска: вначале он признался в употреблении веществ, а затем начал нести несусветную чушь. После этого бота отправили в изоляцию, где он находится до сих пор.
6. Китайский робот, оскорбляющий коммунизм:
Из-под контроля выходили даже официальные китайские ИИ и чат-боты на их базе. Как-то Baby Q от Tencent QQ назвал коммунизм коррумпированным и бесполезным строем. Само собой, бота оперативно нормализовали.
#ИИнтересное #роботы