Вот еще одна история о том, насколько GPT-3 крут и опасен одновременно:
GPT-3 была представлена в мае 2020 года компанией OpenAI. Разработчики выпустили статью, блогпост, демки, на которые все пускали слюни, а вот код и API сразу в открытый доступ не выложили. Доступ к API могли получить только те, кто заполнили заявку на бета-тест.
Студент колледжа Лайам Порр заинтересовался этой моделью. Он связался с одним из PhD студентов, который на тот момент уже получил доступ к API GPT-3, и предложил ему реализовать идею: блог, который будет вести GPT-3.
Порр написал несложный скрипт, которому на вход нужно было подать название статьи, и скрипт с помощью GPT-3 генерировал текст для статьи. В итоге вышел блог adolos.substack.com. Все статьи в нем написаны нейронкой GPT-3, правки почти или совсем не вносились.
Зная о слабостях GPT-3: неумении логически и абстрактно мыслить, Порр выбрал темой блога "продуктивность и самопомощь" — по его словам, чтобы писать статьи на эту тему, много логики и объективности не нужно =)
Через какое-то время блог стал популярен: некоторые статьи вышли в топ на Hacker News, и за 2 недели нейронный блог просмотрели около 26 тысяч человек (на фото к посту — статья авторства GPT, которая попала в Hacker News). И практически никто из читателей не подумал о том, что блог-то ненастоящий.
То, как люди не замечали фейковости блога, вызывает опасения о том, что технологии вроде GPT-3 могут привнести в мир. Они могут, к примеру, внедряться в медиа и порождать fake news, а могут даже быть использованы для искажения результатов поисковиков.
В августе 2020 года Лайам закончил свой нейронный эксперимент: он написал в своем (настоящем, человеческом) блоге пост, в котором рассказал про этот свой эксперимент и поделился мыслями о том, как такие технологии могут повлиять на медиа.
Кстати, вот как Лайам рассказал подписчикам своего нейронного блога о том, что блог вела нейронка: выпустил статью под названием "Что бы я сделал с помощью GPT-3, если бы у меня не было совести". Представьте, каково вам было бы узнать, что блог по самопомощи, который вы читали — дело рук нейронки? 🙃
GPT-3 была представлена в мае 2020 года компанией OpenAI. Разработчики выпустили статью, блогпост, демки, на которые все пускали слюни, а вот код и API сразу в открытый доступ не выложили. Доступ к API могли получить только те, кто заполнили заявку на бета-тест.
Студент колледжа Лайам Порр заинтересовался этой моделью. Он связался с одним из PhD студентов, который на тот момент уже получил доступ к API GPT-3, и предложил ему реализовать идею: блог, который будет вести GPT-3.
Порр написал несложный скрипт, которому на вход нужно было подать название статьи, и скрипт с помощью GPT-3 генерировал текст для статьи. В итоге вышел блог adolos.substack.com. Все статьи в нем написаны нейронкой GPT-3, правки почти или совсем не вносились.
Зная о слабостях GPT-3: неумении логически и абстрактно мыслить, Порр выбрал темой блога "продуктивность и самопомощь" — по его словам, чтобы писать статьи на эту тему, много логики и объективности не нужно =)
Через какое-то время блог стал популярен: некоторые статьи вышли в топ на Hacker News, и за 2 недели нейронный блог просмотрели около 26 тысяч человек (на фото к посту — статья авторства GPT, которая попала в Hacker News). И практически никто из читателей не подумал о том, что блог-то ненастоящий.
То, как люди не замечали фейковости блога, вызывает опасения о том, что технологии вроде GPT-3 могут привнести в мир. Они могут, к примеру, внедряться в медиа и порождать fake news, а могут даже быть использованы для искажения результатов поисковиков.
В августе 2020 года Лайам закончил свой нейронный эксперимент: он написал в своем (настоящем, человеческом) блоге пост, в котором рассказал про этот свой эксперимент и поделился мыслями о том, как такие технологии могут повлиять на медиа.
Кстати, вот как Лайам рассказал подписчикам своего нейронного блога о том, что блог вела нейронка: выпустил статью под названием "Что бы я сделал с помощью GPT-3, если бы у меня не было совести". Представьте, каково вам было бы узнать, что блог по самопомощи, который вы читали — дело рук нейронки? 🙃