«Обретение сознания» чатботом LaMDA — история не о технологиях, а о крутом пиаре и медиахакинге
Контекст: 11 июня в Washington Post вышла статья о том, как специалист по этике ИИ Блэк Лемойн тестировал чатботов на основе флагманской генеративной модели Google — LaMDA (Language Model for Dialogue Applications). Чатботы имитировали разнообразные «личности», например, весёлого динозаврика для детей. Задачей Лемойна, которого в Google прозвали «совестью корпорации», было установить — может ли чатбот сымитировать личность убийцы или перейти на оскорбления и хейтспич.
🙇🏼♂️ Общаясь с одной из версий программы, Лемойн заподозрил, что она обрела разум. Об этом он незамедлительно сообщил руководству. На что те отправили его в отпуск — якобы отдохнуть и охладить собственное воспалённое сознание. Однако Блэк оказался мужиком с принципами и за правду. Поэтому он выложил логи своих бесед в открытый доступ, нарушив NDA.
Реакция: Статья и разлетевшиеся на цитаты логи произвели эффект разорвавшейся медиабомбы. Что говорить о США, если даже в России новость опубликовали и прокомментировали не только все техноблогеры, но даже такие предельно далёкие от технологий и науки СМИ, как «Комсомольская правда» или Baza.
🙅🏻♂️ Большинство специалистов тут же наивно принялись рассуждать, мол, это «антропоморфизация машины», искажённое восприятие экзальтированной психики Лемойна; рассказывать, как работают такие модели и прочее. Публикации до сих пор льются Ниагарой. Но… главное уже сделано.
Цель: Сейчас каждый знает о LaMDA — и это действительно взрывной пиар. Реально классный продукт Google, который последние 1,5 года обсуждали только эксперты — теперь на слуху у всех. Аплодисменты!
Как это делалось?
1️⃣ В мае 2021 года корпорация представила модель LaMDA на конференции Google I/O, заявив, что она изменит голосовых помощников, сделав их «более естественными и разносторонними». Инновация была тепло встречена технологическими журналистами, но именем нарицательным, как та же Siri, не стала.
2️⃣ Затем CEO Google Сундар Пичаи объявил, что компания имплементирует LaMDA во все свои продукты — от поиска до Google Assistant. Но как отпозиционироваться от конкурентов — Siri и Alexa, ставших уже частью массовой культуры?
💣 Самый сильный месседж — объявить о появлении у чатбота сознания. Однако от лица самой компании это сделать невозможно — такое заявление будет быстро опровергнуто и ударит по репутации Google.
Тогда может его сделает маргинал, нарушив корпоративные соглашения? Его подвергнут санкциям, а сама компания сделает вид, что отчаянно заметает следы утечки.
🧔🏼♀️ Благо, нужный человек уже 7 лет работал в Google. Блэк Лемойн, 41 год, в прошлом солдат американской армии, воевал в Ираке, после чего стал рукоположенным священником христианской конгрегации «Церковь нашей госпожи Магдалины» (Church of Our Lady Magdalene). Склонен к мистицизму, занимается трансцендентальной медитацией, увлекается нью-эйдж психологией.
👨💻 Сама специфика его работы — часами на удалёнке в одиночестве тестировать разные имитации личностей чатботами, а также весь бэкграунд — говорили о том, что надо только подтолкнуть. И Блэк с радостью поверит в откровение. Ну и может немного заплатить.
Новые факты: На днях журналисты из Business Insider выяснили, что логи бесед с «разумным» чатботом оказались «отредактированы для большей читабельности, но с соблюдением последовательности изложения».
Внимательное изучение текста показало, что он составлен из 9 отдельных диалогов, которые Лемойн (и ещё один анонимный участник-человек) проводили с системой в разные дни и затем самостоятельно объединили вместе. В некоторых случаях они меняли местами и удаляли целые фрагменты разговоров, когда речь уходила в ненужную сторону или «не относилась к теме разумности LaMDA».
Итог: Думаю, на этом в истории можно поставить точку. В ней поражают две вещи — как широкая публика готова поверить в появление сознания у ИИ, а также виртуозность пиарщиков Google.
Контекст: 11 июня в Washington Post вышла статья о том, как специалист по этике ИИ Блэк Лемойн тестировал чатботов на основе флагманской генеративной модели Google — LaMDA (Language Model for Dialogue Applications). Чатботы имитировали разнообразные «личности», например, весёлого динозаврика для детей. Задачей Лемойна, которого в Google прозвали «совестью корпорации», было установить — может ли чатбот сымитировать личность убийцы или перейти на оскорбления и хейтспич.
🙇🏼♂️ Общаясь с одной из версий программы, Лемойн заподозрил, что она обрела разум. Об этом он незамедлительно сообщил руководству. На что те отправили его в отпуск — якобы отдохнуть и охладить собственное воспалённое сознание. Однако Блэк оказался мужиком с принципами и за правду. Поэтому он выложил логи своих бесед в открытый доступ, нарушив NDA.
Реакция: Статья и разлетевшиеся на цитаты логи произвели эффект разорвавшейся медиабомбы. Что говорить о США, если даже в России новость опубликовали и прокомментировали не только все техноблогеры, но даже такие предельно далёкие от технологий и науки СМИ, как «Комсомольская правда» или Baza.
🙅🏻♂️ Большинство специалистов тут же наивно принялись рассуждать, мол, это «антропоморфизация машины», искажённое восприятие экзальтированной психики Лемойна; рассказывать, как работают такие модели и прочее. Публикации до сих пор льются Ниагарой. Но… главное уже сделано.
Цель: Сейчас каждый знает о LaMDA — и это действительно взрывной пиар. Реально классный продукт Google, который последние 1,5 года обсуждали только эксперты — теперь на слуху у всех. Аплодисменты!
Как это делалось?
1️⃣ В мае 2021 года корпорация представила модель LaMDA на конференции Google I/O, заявив, что она изменит голосовых помощников, сделав их «более естественными и разносторонними». Инновация была тепло встречена технологическими журналистами, но именем нарицательным, как та же Siri, не стала.
2️⃣ Затем CEO Google Сундар Пичаи объявил, что компания имплементирует LaMDA во все свои продукты — от поиска до Google Assistant. Но как отпозиционироваться от конкурентов — Siri и Alexa, ставших уже частью массовой культуры?
💣 Самый сильный месседж — объявить о появлении у чатбота сознания. Однако от лица самой компании это сделать невозможно — такое заявление будет быстро опровергнуто и ударит по репутации Google.
Тогда может его сделает маргинал, нарушив корпоративные соглашения? Его подвергнут санкциям, а сама компания сделает вид, что отчаянно заметает следы утечки.
🧔🏼♀️ Благо, нужный человек уже 7 лет работал в Google. Блэк Лемойн, 41 год, в прошлом солдат американской армии, воевал в Ираке, после чего стал рукоположенным священником христианской конгрегации «Церковь нашей госпожи Магдалины» (Church of Our Lady Magdalene). Склонен к мистицизму, занимается трансцендентальной медитацией, увлекается нью-эйдж психологией.
👨💻 Сама специфика его работы — часами на удалёнке в одиночестве тестировать разные имитации личностей чатботами, а также весь бэкграунд — говорили о том, что надо только подтолкнуть. И Блэк с радостью поверит в откровение. Ну и может немного заплатить.
Новые факты: На днях журналисты из Business Insider выяснили, что логи бесед с «разумным» чатботом оказались «отредактированы для большей читабельности, но с соблюдением последовательности изложения».
Внимательное изучение текста показало, что он составлен из 9 отдельных диалогов, которые Лемойн (и ещё один анонимный участник-человек) проводили с системой в разные дни и затем самостоятельно объединили вместе. В некоторых случаях они меняли местами и удаляли целые фрагменты разговоров, когда речь уходила в ненужную сторону или «не относилась к теме разумности LaMDA».
Итог: Думаю, на этом в истории можно поставить точку. В ней поражают две вещи — как широкая публика готова поверить в появление сознания у ИИ, а также виртуозность пиарщиков Google.