DeepFake в реальной жизни
#ai_inside
DeepFake становится все более реалистичным: все чаще в интернете всплывают видео, которые кажутся 100% реальными, энтузиасты стараются найти на них следы "фейковости", а не очень хорошие люди используют дипфейки для мошенничества. Создаются нейронные сети, которые способны детектировать дипфейки по отражениям в зрачках и другим мало заметным артефактам.
Становится не по себе от того, что человек часто неспособен распознать фейковые видео лиц. Мы считаем себя экспертами по части лиц: мы — социальные существа и "чтение лиц" заложено в нас эволюцией. Доказано, что люди замечают даже самые мимолетные отпечатки эмоций на лицах других людей и даже могут интуитивно составить психологический портрет собеседника только по фотографии его лица.
Неужели технологии стали настолько хороши, что могут обмануть наш натренированный мозг?
RealFake:
Похоже, что на самом деле люди не так и хороши. Давайте проведем эксперимент: на картинке выше вы видите два лица. Одно из них — реальное, второе — лицо, на которое надета маска. Можете ли вы сказать, какое лицо — настоящее?
Эксперименты психолога из Университета Глазго Роба Дженкинса показывают, что люди ошибаются в таких тестах в 20% случаев: каждую пятую попытку. Это даже при условии, что у людей есть неограниченное время на рассматривание лиц. А если времени мало, процент ошибок становится близок к 50 — случайному угадыванию.
Где такое используется
Интерес к таким маскам, реалистично меняющим лицо, появился после серии ограблений банков в США. Ограбления совершал мужчина, которому на вид было 70-80 лет. После нескольких успешных налетов он стал любимцем интернета: многие постили ироничные твиты в его поддержку. Подозрения относительно "фейковости" грабителя появились при его последнем ограблении: он почти попался в руки полиции, и когда убегал, бежал нереально быстро для пенсионера.
Что интересно: люди поняли, что лицо — ненастоящее, только после получения информации о том, насколько быстро бежал человек. Это преимущество мультимодальности, о которой мы писали постом выше: сбор информации из разных источников, чтобы сделать вывод. Обладая только визуальной информацией даже люди не могли распознать, что личность грабителя — подделка.
Есть еще несколько примеров использования масок для мошенничества. В этом примере человек использовал маску, чтобы выглядеть как министр обороны Франции Жан Ив Ле-Дриан. Так он укран миллионы. Прямо как с виртуальными дипфейками, не находите?
Для полноты картины скажем, что есть еще одно, более безобидное, использование масок — в фильмах. Думаю, тут и так все понятно.
Почему человек не может распознать фейк?
Почему же люди не могут распознать лица в маске? Это вопрос, на который пока нет точного ответа. Предположительно ответ такой:
Мы не привыкли иметь дело с реалистичными масками, и априори считаем, что лицо перед нами — настоящее. И не ищем в лице "изъянов".
Кроме того, наш мозг любит "дорисовывать" реальность, основываясь на наших априорных знаниях и убеждениях. Мы можем просто в упор не замечать явных недостатков даже при близком контакте, если убеждены, что перед нами — реальный человек. Это еще сильнее проявляется при быстром взаимодействии с людьми (человек прошел мимо, вы бегло на него взглянули).
Это все играет на руку мошенникам, которые скрываются, используя такие маски. Учитывая, что производство масок становится все более дешевым — скоро мы увидим кучу преступлений от "фейковых" злоумышленников 🤡
По этой ссылке смотрите интервью Роба Дженкинса насчет таких масок и его мысли о том, почему мы ошибаемся и как с этим бороться.
А вот его статья на эту тему
#ai_inside
DeepFake становится все более реалистичным: все чаще в интернете всплывают видео, которые кажутся 100% реальными, энтузиасты стараются найти на них следы "фейковости", а не очень хорошие люди используют дипфейки для мошенничества. Создаются нейронные сети, которые способны детектировать дипфейки по отражениям в зрачках и другим мало заметным артефактам.
Становится не по себе от того, что человек часто неспособен распознать фейковые видео лиц. Мы считаем себя экспертами по части лиц: мы — социальные существа и "чтение лиц" заложено в нас эволюцией. Доказано, что люди замечают даже самые мимолетные отпечатки эмоций на лицах других людей и даже могут интуитивно составить психологический портрет собеседника только по фотографии его лица.
Неужели технологии стали настолько хороши, что могут обмануть наш натренированный мозг?
RealFake:
Похоже, что на самом деле люди не так и хороши. Давайте проведем эксперимент: на картинке выше вы видите два лица. Одно из них — реальное, второе — лицо, на которое надета маска. Можете ли вы сказать, какое лицо — настоящее?
Эксперименты психолога из Университета Глазго Роба Дженкинса показывают, что люди ошибаются в таких тестах в 20% случаев: каждую пятую попытку. Это даже при условии, что у людей есть неограниченное время на рассматривание лиц. А если времени мало, процент ошибок становится близок к 50 — случайному угадыванию.
Где такое используется
Интерес к таким маскам, реалистично меняющим лицо, появился после серии ограблений банков в США. Ограбления совершал мужчина, которому на вид было 70-80 лет. После нескольких успешных налетов он стал любимцем интернета: многие постили ироничные твиты в его поддержку. Подозрения относительно "фейковости" грабителя появились при его последнем ограблении: он почти попался в руки полиции, и когда убегал, бежал нереально быстро для пенсионера.
Что интересно: люди поняли, что лицо — ненастоящее, только после получения информации о том, насколько быстро бежал человек. Это преимущество мультимодальности, о которой мы писали постом выше: сбор информации из разных источников, чтобы сделать вывод. Обладая только визуальной информацией даже люди не могли распознать, что личность грабителя — подделка.
Есть еще несколько примеров использования масок для мошенничества. В этом примере человек использовал маску, чтобы выглядеть как министр обороны Франции Жан Ив Ле-Дриан. Так он укран миллионы. Прямо как с виртуальными дипфейками, не находите?
Для полноты картины скажем, что есть еще одно, более безобидное, использование масок — в фильмах. Думаю, тут и так все понятно.
Почему человек не может распознать фейк?
Почему же люди не могут распознать лица в маске? Это вопрос, на который пока нет точного ответа. Предположительно ответ такой:
Мы не привыкли иметь дело с реалистичными масками, и априори считаем, что лицо перед нами — настоящее. И не ищем в лице "изъянов".
Кроме того, наш мозг любит "дорисовывать" реальность, основываясь на наших априорных знаниях и убеждениях. Мы можем просто в упор не замечать явных недостатков даже при близком контакте, если убеждены, что перед нами — реальный человек. Это еще сильнее проявляется при быстром взаимодействии с людьми (человек прошел мимо, вы бегло на него взглянули).
Это все играет на руку мошенникам, которые скрываются, используя такие маски. Учитывая, что производство масок становится все более дешевым — скоро мы увидим кучу преступлений от "фейковых" злоумышленников 🤡
По этой ссылке смотрите интервью Роба Дженкинса насчет таких масок и его мысли о том, почему мы ошибаемся и как с этим бороться.
А вот его статья на эту тему