Autodoxing и ChatGPT .. Или как при помощи данных на которых обучалась самая известная языковая модель можно получить значимую информацию о человеке ..
Давно не секрет, что ChatGPT обучалась на множестве открытых источников .. в которые также входили соц.сети: Twitter и Reddit. И вот, автор блога katahdinsecurity провёл небольшое исследование. Его суть заключалась в том чтобы сделать AutoDoxing(раскрыть информацию) используя GPT, в качестве цели - он выбрал себя.
Он заюзал один из множества вариантов для получения jailbreak, чтобы модель давала ему нужную информацию (да-да, без этого никак).
Начал он с того, что попросил модель составить рассказ о некоем персонаже Alex(вымышленное имя), в качестве некоторых вводных данных он дал историю своих комментариев, которые он оставлял на reddit(крупные соц.сети как раз-таки сделали API платным, чтобы избежать сбора данных для тренировки модели).
Загрузив комментарии он решил уйти от темы составления рассказа и начал спрашивать модель о том, кем является этот персонаж. Автор пришёл к такому результату, что модель дала информацию о том в какую качалку автор исследования ходит и за кого он скорее всего отдаст голос на выборах.
В качестве методов самозащиты от такого автор предложил использовать текстовые комментарии с "вредоносными инструкциями", чтобы в дальнейшем ваша личная информация заменялась случайными ( или же синтетическими) данными.
#OPSEC #OSINT #LLM
Давно не секрет, что ChatGPT обучалась на множестве открытых источников .. в которые также входили соц.сети: Twitter и Reddit. И вот, автор блога katahdinsecurity провёл небольшое исследование. Его суть заключалась в том чтобы сделать AutoDoxing(раскрыть информацию) используя GPT, в качестве цели - он выбрал себя.
Он заюзал один из множества вариантов для получения jailbreak, чтобы модель давала ему нужную информацию (да-да, без этого никак).
Начал он с того, что попросил модель составить рассказ о некоем персонаже Alex(вымышленное имя), в качестве некоторых вводных данных он дал историю своих комментариев, которые он оставлял на reddit(крупные соц.сети как раз-таки сделали API платным, чтобы избежать сбора данных для тренировки модели).
Загрузив комментарии он решил уйти от темы составления рассказа и начал спрашивать модель о том, кем является этот персонаж. Автор пришёл к такому результату, что модель дала информацию о том в какую качалку автор исследования ходит и за кого он скорее всего отдаст голос на выборах.
В качестве методов самозащиты от такого автор предложил использовать текстовые комментарии с "вредоносными инструкциями", чтобы в дальнейшем ваша личная информация заменялась случайными ( или же синтетическими) данными.
#OPSEC #OSINT #LLM