Опасный совет чат-бота стал поводом для исключения его из горячей линии по расстройствам пищевого поведения
Национальная ассоциация по расстройствам пищевого поведения (NEDA) была вынуждена отключить своего чат-бота по имени Тесса после того, как он "мог предоставить информацию, которая была вредной и не связанной с программой". Ранее, NEDA уволила персонал в пользу ИИ.
Проще говоря, искусственный интеллект чат-бота предназначался для помощи людям, испытывающим эмоциональные проблемы, но вместо этого только ухудшал ситуацию, предлагая советы по диетам и призывая пользователей взвешиваться и измерять себя.
Несколько пользователей и экспертов в области РПП столкнулись с этими проблемами на собственном опыте.
Как подчеркнули в ассоциации, это горячая линия для тех, кто страдает от расстройства пищевого поведения, а не группа поддержки по снижению веса.
🖥 IT — это просто
Национальная ассоциация по расстройствам пищевого поведения (NEDA) была вынуждена отключить своего чат-бота по имени Тесса после того, как он "мог предоставить информацию, которая была вредной и не связанной с программой". Ранее, NEDA уволила персонал в пользу ИИ.
Проще говоря, искусственный интеллект чат-бота предназначался для помощи людям, испытывающим эмоциональные проблемы, но вместо этого только ухудшал ситуацию, предлагая советы по диетам и призывая пользователей взвешиваться и измерять себя.
Несколько пользователей и экспертов в области РПП столкнулись с этими проблемами на собственном опыте.
Как подчеркнули в ассоциации, это горячая линия для тех, кто страдает от расстройства пищевого поведения, а не группа поддержки по снижению веса.
🖥 IT — это просто