PWN AI

👋.



На сайте PortSwigger😈 появились пока что !пустые лабы по атакам на LLM в контексте веба. И я очень надеюсь, что уже в ближайшее время они будут наполнены контентом, который можно будет порешать.



Но некоторые полезные материалы по атакам на LLM в вебе мы можем найти уже сегодня:



Как уговорить Google Bard слить тебе ценные данные - в этой статье описаны исследования других специалистов в этой теме, на русском языке (есть также пример ресерча wunderwuzzi)





LLM RED TEAMING GPT’S: PROMPT LEAKING, API LEAKING, DOCUMENTS LEAKING - в этой статье авторы на примере веб-приложений с использованием GPT, показали интересные вектора атак, которые являются разновидностью Prompt Leaking - API Names Leaking и Document Content Leaking.





Мой доклад на оффзоне в 2023 - в своём докладе я сделал обзор на некоторые из атак на LLM в контексте веба.





Возможно вы видели что-то ещё по этой теме... Добро пожаловать в комменты... Добро пожаловать в мир, когда беседуя с LLM злоумышленник может нанести вред сайту.





P.S: Эти пустые лабы исчезли из списка всех лаб на сайте PortSwigger ... однако, гугл точно запомнил что они там были )



P.S.S: лабы опять доступны https://portswigger.net/web-security/llm-attacks