Последние несколько дней вспоминал кейс Cambridge Analytica (СА), а сегодня получил подарочек: свежее расследование о деятельности «Команды Хорхе» – группы израильских наемников, связанных с CA и специализирующихся на хакинге и автоматизированной дезинформации с целью достижения политических и бизнес целей.
Команда Хорхе продавала свой шпионский софт и пси-оп услуги разведкам, политическим партиям и корпорациям по цене примерно $500 000 в месяц. На записях с презентации руководитель группы по кличке Хорхе хвастается, что его команда провела 33 цифровых пси-оп кампании на уровне президентских выборов, 27 из которых оказались успешными – то есть выигрывали выборы те кандидаты, которых Команда Хорхе продвигала с помощью своих информационных инструментов.
Команда Хорхе – типичный представитель хакерского андерграунда, правда, со специфической утонченной специализацией на массовых психологических манипуляциях (хотя грубыми средствами вроде блокировки телефонов политиков в критические моменты они тоже не брезговали).
В контексте дела CA история Хорхе не открывает ничего принципиально нового: хакинг политиков и их помощников, психометрические замеры популяций, сгенерированный ИИ персонализированный видео контент, уникальный для каждого отдельного зрителя – короче, классический цифровой пси-оп образца конца 2010-х. Настоятельно советую моим подписчикам на примере Команды Хорхе хотя бы в общих чертах изучить, как работают эти инструменты и затем представить, как они будут работать в ближайшие годы с развитием нейросетей вроде ChatGPT – и осознать масштабы проблемы.
У меня эта история вяжется с шикарной книгой Николь Перлрот «This Is How They Tell Me the World Ends». В ней авторка рассказывает о мире хакеров и разведок, кибершпионажа и информационных войн. Расследование крутится вокруг так называемых zero-days – уязвимостей в программном коде или в компьютерном железе, которые еще не обнаружили или пока не смогли купировать разработчики.
Перлрот описывает секретную многомиллиардную индустрию, в которой хакеры-одиночки и целые отделы спецслужб круглосуточно работают над поиском и эксплуатацией этих уязвимостей, а затем используют для своих целей – от взлома политиков до диверсий на заводах по обогащению уранового топлива.
Так вот, Команда Хорхе заставила меня в очередной раз задуматься о том, как могут выглядеть zero-days уязвимости индивидуальной человеческой психики? Хорхеобразные компании специализируются на не очень глубоком и часто грубом взломе человеческой психики: на склонении масс людей к определенным политическим решениям, или на индивидуальном запугивании и шантаже на основе полученных о человеке общих сведений.
Глубинный анализ личности может: (а) открыть психологические zero-days человека, которые сам он не осознает, и (б) создать контент или ситуацию для эксплуатации этих пси-zero-days. Мне кажется, что новые Команды Хорхе в ближайшем будущем будут состоять не из отставных израильских спецслужбистов, а из продвинутых манипуляционных нейросетей.
К какому выводу я прихожу? Необходимо познать себя до того момента, когда мы уже не сможем различить, где «сырая» реальность, а где реальность «курируемая», где наши «настоящие» чувства, а где «синтетические». Этот вывод работает только в том случае, если вы все еще верите в существование «я», реальных чувств и свободы воли.
Команда Хорхе продавала свой шпионский софт и пси-оп услуги разведкам, политическим партиям и корпорациям по цене примерно $500 000 в месяц. На записях с презентации руководитель группы по кличке Хорхе хвастается, что его команда провела 33 цифровых пси-оп кампании на уровне президентских выборов, 27 из которых оказались успешными – то есть выигрывали выборы те кандидаты, которых Команда Хорхе продвигала с помощью своих информационных инструментов.
Команда Хорхе – типичный представитель хакерского андерграунда, правда, со специфической утонченной специализацией на массовых психологических манипуляциях (хотя грубыми средствами вроде блокировки телефонов политиков в критические моменты они тоже не брезговали).
В контексте дела CA история Хорхе не открывает ничего принципиально нового: хакинг политиков и их помощников, психометрические замеры популяций, сгенерированный ИИ персонализированный видео контент, уникальный для каждого отдельного зрителя – короче, классический цифровой пси-оп образца конца 2010-х. Настоятельно советую моим подписчикам на примере Команды Хорхе хотя бы в общих чертах изучить, как работают эти инструменты и затем представить, как они будут работать в ближайшие годы с развитием нейросетей вроде ChatGPT – и осознать масштабы проблемы.
У меня эта история вяжется с шикарной книгой Николь Перлрот «This Is How They Tell Me the World Ends». В ней авторка рассказывает о мире хакеров и разведок, кибершпионажа и информационных войн. Расследование крутится вокруг так называемых zero-days – уязвимостей в программном коде или в компьютерном железе, которые еще не обнаружили или пока не смогли купировать разработчики.
Перлрот описывает секретную многомиллиардную индустрию, в которой хакеры-одиночки и целые отделы спецслужб круглосуточно работают над поиском и эксплуатацией этих уязвимостей, а затем используют для своих целей – от взлома политиков до диверсий на заводах по обогащению уранового топлива.
Так вот, Команда Хорхе заставила меня в очередной раз задуматься о том, как могут выглядеть zero-days уязвимости индивидуальной человеческой психики? Хорхеобразные компании специализируются на не очень глубоком и часто грубом взломе человеческой психики: на склонении масс людей к определенным политическим решениям, или на индивидуальном запугивании и шантаже на основе полученных о человеке общих сведений.
Глубинный анализ личности может: (а) открыть психологические zero-days человека, которые сам он не осознает, и (б) создать контент или ситуацию для эксплуатации этих пси-zero-days. Мне кажется, что новые Команды Хорхе в ближайшем будущем будут состоять не из отставных израильских спецслужбистов, а из продвинутых манипуляционных нейросетей.
К какому выводу я прихожу? Необходимо познать себя до того момента, когда мы уже не сможем различить, где «сырая» реальность, а где реальность «курируемая», где наши «настоящие» чувства, а где «синтетические». Этот вывод работает только в том случае, если вы все еще верите в существование «я», реальных чувств и свободы воли.