Борьба с системами распознавания лиц набирает обороты. Тут вам и проекторы, и тату, и маски на лицо. Свежая новость — Facebook тоже взялся за цифровые трансформации, чтобы хакнуть собственный фейс-рекогнишн.
Задача ставилась так — давайте научим сеть модифицировать изображение лица с сохранением позы, света и остальных признаков, которые человек используем для распознавания личности, но допустим изменение маленьких деталей (чуть-чуть поправим нос, глаза, губы).
Этого оказалось достаточно, чтобы сломать распознавалку. Но что куда интереснее — разработчики обманули не только машину. Человеку и самому тяжело отличить человека. Особенно сильно это ощущается на примере кинозвезд: мозг замечает изменения в лице, но не может точно сказать, что не так.
Единственный способ хакнуть систему распознавания — это заточить оружие именно на этой системе. Так и сделал Facebook — он сам создал нейросеть, которая ломает фейс-рекогнишн, чтобы найти слабые места и прокачать их, пока этого не сделал какой-нибудь русский хакер. Это война аналогичная «вирус-антивирус» — одна сторона создает яд, а другая — ищет противоядие. Только в этом случае по обе стороны баррикад — одна и та же армия.
Facebook предусмотрительно готовится к будущему.
Задача ставилась так — давайте научим сеть модифицировать изображение лица с сохранением позы, света и остальных признаков, которые человек используем для распознавания личности, но допустим изменение маленьких деталей (чуть-чуть поправим нос, глаза, губы).
Этого оказалось достаточно, чтобы сломать распознавалку. Но что куда интереснее — разработчики обманули не только машину. Человеку и самому тяжело отличить человека. Особенно сильно это ощущается на примере кинозвезд: мозг замечает изменения в лице, но не может точно сказать, что не так.
Единственный способ хакнуть систему распознавания — это заточить оружие именно на этой системе. Так и сделал Facebook — он сам создал нейросеть, которая ломает фейс-рекогнишн, чтобы найти слабые места и прокачать их, пока этого не сделал какой-нибудь русский хакер. Это война аналогичная «вирус-антивирус» — одна сторона создает яд, а другая — ищет противоядие. Только в этом случае по обе стороны баррикад — одна и та же армия.
Facebook предусмотрительно готовится к будущему.