Загрузить свое фото в интернет — это подарить его миру. Кто знает, кто будет иметь к этому фото доступ, зачем его будут использовать и какие нейросети обучат с вашим фото в обучающей выборке.
#tech
Если вас действительно тревожит этот факт, то этот пост вам немного поможет.
Исследователи из университета Чикаго создали нейросеть Fawkes, которая защищает ваши фото в интернете от распознавания на них ваших лиц. Нейросеть работает на основе универсальных adversarial attacks: она добавляет к вашему фото малые изменения, которые не видны глазу человека, но с большой вероятностью обманут нейросеть для распознавания лиц. Таким образом, если кто-то попытается с помощью технологии распознавания лиц найти ваши фото в интернете, то у него ничего не выйдет.
❗️Fawkes не 100% защищает ваши фото от распознавания. Стопроцентной защиты не существует. Любая защита может лучше зашищать от одних нейросетей для распознавания лиц, и хуже — от других. Даже оценить, насколько защита действенная, почти невозможно.
Но тут работает правило: чем сильнее изменено фото, тем сложнее нейросетям распознать на нем лицо. Fawkes меняет лица совсем не сильно, и это делает его уязвимым. Поэтому исследователи из университета Мериленда сделали "улучшенную версию" Fawkes: LowKey. LowKey использует более сильные виды adversarial атак, изменяя фото сильнее.
На фото к посту вы видите мою фотку, измененную с помощью LowKey. Сила атаки — 50%.
Обе технологии доступны онлайн, вот ссылки: Fawkes, LowKey.
Гитхаб с кодом Fawkes: тык
Статьи с описанием архитектур: Fawkes, LowKey.
#tech
Если вас действительно тревожит этот факт, то этот пост вам немного поможет.
Исследователи из университета Чикаго создали нейросеть Fawkes, которая защищает ваши фото в интернете от распознавания на них ваших лиц. Нейросеть работает на основе универсальных adversarial attacks: она добавляет к вашему фото малые изменения, которые не видны глазу человека, но с большой вероятностью обманут нейросеть для распознавания лиц. Таким образом, если кто-то попытается с помощью технологии распознавания лиц найти ваши фото в интернете, то у него ничего не выйдет.
❗️Fawkes не 100% защищает ваши фото от распознавания. Стопроцентной защиты не существует. Любая защита может лучше зашищать от одних нейросетей для распознавания лиц, и хуже — от других. Даже оценить, насколько защита действенная, почти невозможно.
Но тут работает правило: чем сильнее изменено фото, тем сложнее нейросетям распознать на нем лицо. Fawkes меняет лица совсем не сильно, и это делает его уязвимым. Поэтому исследователи из университета Мериленда сделали "улучшенную версию" Fawkes: LowKey. LowKey использует более сильные виды adversarial атак, изменяя фото сильнее.
На фото к посту вы видите мою фотку, измененную с помощью LowKey. Сила атаки — 50%.
Обе технологии доступны онлайн, вот ссылки: Fawkes, LowKey.
Гитхаб с кодом Fawkes: тык
Статьи с описанием архитектур: Fawkes, LowKey.