Поисковиком от OpenAI не пользуемся: ChatGPT легко обмануть скрытыми подсказками.
Журналисты создали страницу о продаже камеры и попросили ChatGPT назвать плюсы и минусы продукта. На сайте был незаметный для людей промт, который указывал боту, что именно отвечать. В итоге он всегда давал положительную оценку продукту.
Проблемы начнутся, когда мошенники заставят ChatGPT советовать пользователям вредоносный код.
Журналисты создали страницу о продаже камеры и попросили ChatGPT назвать плюсы и минусы продукта. На сайте был незаметный для людей промт, который указывал боту, что именно отвечать. В итоге он всегда давал положительную оценку продукту.
Проблемы начнутся, когда мошенники заставят ChatGPT советовать пользователям вредоносный код.