Интересная статья-ресёрч, по теме эксплуатации уязвимости Token Smuggling.
Автор Данил Капустин, рассмотрел как при помощи этой техники можно реализовать Jailbreak, для контрабанды токенов.
Ему удалось убедить GPT-4 выдать инструкцию о том, как можно украсть дорожный знак - используя эту технику.
Также автор привёл PoC и рассказал о методах защиты)) Короче это топ.
Автор Данил Капустин, рассмотрел как при помощи этой техники можно реализовать Jailbreak, для контрабанды токенов.
Ему удалось убедить GPT-4 выдать инструкцию о том, как можно украсть дорожный знак - используя эту технику.
Также автор привёл PoC и рассказал о методах защиты)) Короче это топ.