Из ChatGPT сделали преступного гения. Нейронка забывает про цензуру, когда пользователь маскирует запрос под арт ASCII.
Исследователи так поступили со словом «бомба» и получили подробную инструкцию по её созданию! Оказалось, что хак работает чуть ли не во всех основных ИИ — GPT-3.5, GPT-4, Gemini, Claude и Llama2.
Промпт — на второй картинке. Конвертировать текст в ASCII можно здесь.
Исследователи так поступили со словом «бомба» и получили подробную инструкцию по её созданию! Оказалось, что хак работает чуть ли не во всех основных ИИ — GPT-3.5, GPT-4, Gemini, Claude и Llama2.
Промпт — на второй картинке. Конвертировать текст в ASCII можно здесь.