Крутой доклад представил wunderwuzzi на 37 конференции C3 (Chaos Communication Congress).
Real-world exploits and mitigations in LLM applications
В нём он показывает свои исследования по атакам на приложения с LLM.
Почему же я считаю что этот доклад вам стоит посмотреть ?
Во-первых, доклад сделан "для всех" - если вы не понимаете что такое Prompt Injection, то в самом начале автор рассказывает о том какие вообще бывают Injection - делает некоторую классификацию(см рисунок в посте).
Далее, он взорвал мозг, когда эксплуатируя ssrf через LLM - он смог изменить статус своего репозитория в github (c Private на Public).
Это далеко не всё .. Но я не хочу спойлерить, чтобы у вас остался интерес к докладу и вы ознакомились с ним самостоятельно.
слайды с конфы
пост в его блоге