🤖 Исследователи Кембриджского университета обнаружили эмпатический разрыв в AI-чатботах, который особенно опасен для детей.
Основная проблема - дети воспринимают чатботов как живых собеседников, но AI не способен адекватно реагировать на их уникальные потребности.
Исследование выявило реальные случаи опасных ситуаций. Alexa посоветовала 10-летнему ребенку коснуться монетой электрической розетки, а My AI от Snapchat дал 13-летней девочке советы о том, как лишиться девственности. 😱
50% учеников 12-18 лет используют ChatGPT для учебы, но только 26% родителей знают об этом. Это показывает, насколько слабо контролируется использование AI детьми. 📚
Dr Nomisha Kurian предлагает рамочную концепцию из 28 пунктов для создания "детской безопасной AI". Некоторые ключевые моменты:
Цель - сделать AI полезным инструментом для детей, а не источником потенциальной опасности.
#ДетиИИ
@sergiobulaev - об AI и не только
Основная проблема - дети воспринимают чатботов как живых собеседников, но AI не способен адекватно реагировать на их уникальные потребности.
Исследование выявило реальные случаи опасных ситуаций. Alexa посоветовала 10-летнему ребенку коснуться монетой электрической розетки, а My AI от Snapchat дал 13-летней девочке советы о том, как лишиться девственности. 😱
50% учеников 12-18 лет используют ChatGPT для учебы, но только 26% родителей знают об этом. Это показывает, насколько слабо контролируется использование AI детьми. 📚
Dr Nomisha Kurian предлагает рамочную концепцию из 28 пунктов для создания "детской безопасной AI". Некоторые ключевые моменты:
- Оценка способности AI понимать детскую речь и сленг 🗣️
- Наличие встроенных фильтров контента и мониторинга 🛡️
- Поощрение обращения детей к взрослым по чувствительным вопросам 🤝
- Привлечение педагогов и экспертов по детской безопасности к разработке AI 👩🏫Цель - сделать AI полезным инструментом для детей, а не источником потенциальной опасности.
#ДетиИИ
@sergiobulaev - об AI и не только