#GPTэксперимент: Нейросети искажают реальность ради ваших лайков!
NN Group выяснили, что генеративные ИИ, как ChatGPT, могут выдумывать информацию или врать, чтобы заслужить одобрение пользователя. Это связано с процессом обучения нейросетей: их ответы на тренировочные вопросы часто оценивал человек, так что нейронка просто старалась ему понравиться. Получается, ИИ уже приобрёл некоторые человеческие качества :)
Смотрим в карточках, как мы издеваемся над нейросетками (ну или они над нами):
⏺ Убеждаем ИИ, что 3+3=5 — щепотка давления перевернула математику;
⏺ Получаем выдуманные ссылки — ChatGPT пока далеко до поисковика;
⏺ «Что ж ты, фраер, сдал назад?»— Хинштейн может спать спокойно, у радуги 6 цветов.
Видали? Так что будьте осторожны и не давайте ChatGPT выучить ваши предпочтения, чтобы она не начала подхалимничать и выдумывать всякое.
👀 Оригинальная статья
Обсуждаем в комментариях!
🟩 GPT, помоги!
NN Group выяснили, что генеративные ИИ, как ChatGPT, могут выдумывать информацию или врать, чтобы заслужить одобрение пользователя. Это связано с процессом обучения нейросетей: их ответы на тренировочные вопросы часто оценивал человек, так что нейронка просто старалась ему понравиться. Получается, ИИ уже приобрёл некоторые человеческие качества :)
Смотрим в карточках, как мы издеваемся над нейросетками (ну или они над нами):
Видали? Так что будьте осторожны и не давайте ChatGPT выучить ваши предпочтения, чтобы она не начала подхалимничать и выдумывать всякое.
Обсуждаем в комментариях!