PWN AI

Как злоупотребляют генеративным ИИ?Чаще всего — для создания дипфейков, а не для сложных атак.К тако...

В сумме – занятный блог-пост, описывающий эффективный прием, особенно полезный для джейлбрейка text-...

Минута терминологии. Саймон Уилсон, который и придумал термин prompt injection, обращает внимание, ч...

Минута терминологии. Саймон Уилсон, который и придумал термин prompt injection, обращает внимание, ч...

Дальше идут примеры. Один из них, достаточно забавный, отсылает к комиксу xkcd про мальчика по имени...

Knowledge Return Oriented Prompting (KROP)Martin et al., 2024Препринт, блогУважаемый Артем (@pwnai)...

🚨#MLSecOps Podcast - "Practical Offensive and Adversarial ML for Red Teams" hubs.ly/Q02Dh0WK0 Join...

Круто, вот ещё вам один подкаст на послушать. Тут выступает автор Offsec ML Playbook, Adrian Wood. В...

Крайне интересный обзорный доклад про атаки на распознавание речи. https://youtu.be/JPxY9Jn7-uw

Доверенный ИИ в Сингапуре#иб_для_ml #aiModel AI Governance Framework for Generative AIКраткий обзорО...