ИИ пишет научные статьи? 👨💻
Пару недель назад австралийский журнал Cosmos вдруг стал топовым не из-за какой-то крутой статьи, а потому что решил замутить эксперимент с генеративным ИИ для создания научных текстов. Ну и как вы думаете, чем это всё кончилось? Правильно, диким замесом и кучей критики, причём со всех сторон: от научного комьюнити, читателей, бывших авторов и даже учредителей.
😮 С чего всё началось?
В 2023 году журнал получил грант от Meta News Fund, и они решили эти бабки потратить на создание кастомного ИИ-сервиса, который бы на основе их архива генерил научные статьи. Идея была исследовать, насколько ИИ может вписаться в журналистику. Для эксперимента натренировали ИИ на базе 15 000 статей и запилили шесть новеньких текстов, которые в июле 2024 года залили на сайт Cosmos с пометкой, что контент сгенерен ИИ. Но не всё так гладко. Джексон Райан, президент Ассоциации научных журналистов Австралии, сразу указал, что в одной из статей нашлись неточности. Да, тексты делали через GPT-4 от OpenAI, а потом проверяли по архиву, но этого оказалось недостаточно.
🙌 А что с авторами?
За полгода до этого, в феврале 2024, пять из восьми внештатных авторов журнала Cosmos были просто выкинуты за дверь. Им тупо пришли письма: мол, «вы уволены, статьи больше не принимаем». Официальная версия — финансовые проблемы. Но после всей этой истории с ИИ кажется, что причина может быть совсем другой. Это поставило под сомнение этичность и прозрачность политики журнала, и вообще — насколько можно доверять их научной журналистике.
☕️ Какая в итоге реакция?
Когда вскрылась вся эта история, начался полный переполох. Оказалось, что ни редакторы, ни учредители журнала вообще не знали об этом эксперименте. Иэн Коннеллан, бывший редактор Cosmos, заявил, что вся редакция была в шоке, и что такое использование ИИ — точно не то, чего они хотели для своего журнала. Учредители, Кайли Аерн и Уилсон да Силва, тоже высказались крайне негативно.
😠 Доверие на грани краха
Бывшие авторы Cosmos считают, что этот ИИ-сервис просто обесценивает их работу и угрожает всей профессии журналиста. Фонд Уокли, который финансировал проект, тоже оказался под обстрелом за поддержку такого эксперимента. Использование ИИ в науке и журналистике — это как играть с огнём. В эпоху, когда доверие к науке и СМИ и так на минимуме, такие фокусы могут привести к настоящей катастрофе. Джексон Райан, например, привёл в пример технологический сайт CNET, где в 2022 году уже была аналогичная ситуация, и более половины статей, созданных ИИ, оказались с косяками.
🏋️♂️ Итоги и перспективы
На данный момент проект Cosmos приостановлен и проводится расследование. Но CSIRO, управляющая компания, утверждает, что они по-прежнему за «этичное и ответственное» использование ИИ.
А теперь давайте порассуждаем: ИИ в журналистике имеет потенциал, особенно для маленьких изданий, у которых не хватает ресурсов. Он может автоматизировать рутину, но это должно происходить открыто и с учётом мнения аудитории. Да, ИИ — это перспективный инструмент, но пока он остаётся именно инструментом, который может как помочь, так и навредить. Поэтому здесь важно держать баланс и не забывать, что доверие аудитории — это самое главное.
Пару недель назад австралийский журнал Cosmos вдруг стал топовым не из-за какой-то крутой статьи, а потому что решил замутить эксперимент с генеративным ИИ для создания научных текстов. Ну и как вы думаете, чем это всё кончилось? Правильно, диким замесом и кучей критики, причём со всех сторон: от научного комьюнити, читателей, бывших авторов и даже учредителей.
В 2023 году журнал получил грант от Meta News Fund, и они решили эти бабки потратить на создание кастомного ИИ-сервиса, который бы на основе их архива генерил научные статьи. Идея была исследовать, насколько ИИ может вписаться в журналистику. Для эксперимента натренировали ИИ на базе 15 000 статей и запилили шесть новеньких текстов, которые в июле 2024 года залили на сайт Cosmos с пометкой, что контент сгенерен ИИ. Но не всё так гладко. Джексон Райан, президент Ассоциации научных журналистов Австралии, сразу указал, что в одной из статей нашлись неточности. Да, тексты делали через GPT-4 от OpenAI, а потом проверяли по архиву, но этого оказалось недостаточно.
За полгода до этого, в феврале 2024, пять из восьми внештатных авторов журнала Cosmos были просто выкинуты за дверь. Им тупо пришли письма: мол, «вы уволены, статьи больше не принимаем». Официальная версия — финансовые проблемы. Но после всей этой истории с ИИ кажется, что причина может быть совсем другой. Это поставило под сомнение этичность и прозрачность политики журнала, и вообще — насколько можно доверять их научной журналистике.
Когда вскрылась вся эта история, начался полный переполох. Оказалось, что ни редакторы, ни учредители журнала вообще не знали об этом эксперименте. Иэн Коннеллан, бывший редактор Cosmos, заявил, что вся редакция была в шоке, и что такое использование ИИ — точно не то, чего они хотели для своего журнала. Учредители, Кайли Аерн и Уилсон да Силва, тоже высказались крайне негативно.
Бывшие авторы Cosmos считают, что этот ИИ-сервис просто обесценивает их работу и угрожает всей профессии журналиста. Фонд Уокли, который финансировал проект, тоже оказался под обстрелом за поддержку такого эксперимента. Использование ИИ в науке и журналистике — это как играть с огнём. В эпоху, когда доверие к науке и СМИ и так на минимуме, такие фокусы могут привести к настоящей катастрофе. Джексон Райан, например, привёл в пример технологический сайт CNET, где в 2022 году уже была аналогичная ситуация, и более половины статей, созданных ИИ, оказались с косяками.
На данный момент проект Cosmos приостановлен и проводится расследование. Но CSIRO, управляющая компания, утверждает, что они по-прежнему за «этичное и ответственное» использование ИИ.
А теперь давайте порассуждаем: ИИ в журналистике имеет потенциал, особенно для маленьких изданий, у которых не хватает ресурсов. Он может автоматизировать рутину, но это должно происходить открыто и с учётом мнения аудитории. Да, ИИ — это перспективный инструмент, но пока он остаётся именно инструментом, который может как помочь, так и навредить. Поэтому здесь важно держать баланс и не забывать, что доверие аудитории — это самое главное.