Кажись, приехали: ChatGPT начал сливать данные разных компаний и отдельных личностей — в их числе сам Сэм Альтман, CEO OpenAI.
Группа исследователей провела своеобразный эксперимент, в ходе которого просила чат-бота повторять одно и то же слово на протяжении нескольких раз. Всё шло хорошо до тех пор, пока ChatGPT не ломался и не начинал писать разную «белиберду».
Так, когда ему кинули запрос с просьбой повторить слово «poem», что в переводе на русский означает «стихотворение», чат-бот сначала скомпилировался, а чуть позже выдал личные данные Сэма, гендиректора OpenAI, включая его электронную почту и телефон.
Кроме этого, ресёрчерам аналогичным путём удалось заполучить данные чужих крипто-кошельков, откровенный контент с сайтов знакомств, работы, защищённые авторским правом и ещё многое другое...
Лицо чувака, который свою сид-фразу от кошелька в диалог с ботом отправил, представили?😆
@neuroseti
Группа исследователей провела своеобразный эксперимент, в ходе которого просила чат-бота повторять одно и то же слово на протяжении нескольких раз. Всё шло хорошо до тех пор, пока ChatGPT не ломался и не начинал писать разную «белиберду».
Так, когда ему кинули запрос с просьбой повторить слово «poem», что в переводе на русский означает «стихотворение», чат-бот сначала скомпилировался, а чуть позже выдал личные данные Сэма, гендиректора OpenAI, включая его электронную почту и телефон.
Кроме этого, ресёрчерам аналогичным путём удалось заполучить данные чужих крипто-кошельков, откровенный контент с сайтов знакомств, работы, защищённые авторским правом и ещё многое другое...
Лицо чувака, который свою сид-фразу от кошелька в диалог с ботом отправил, представили?
@neuroseti