Ну и в завершение цикла постов, посвященных GPT-3: как AI модели влияют на социум и экологию.
#ai_inside #paper
В нескольких постах выше на нашем канале мы касались темы влияния технологии GPT-3 на социум: какое влияние это может оказать на медиа и на людей, которые, часто сами того не подозревая, общаются с ботом. Однако это не единственная проблема, которую порождает GPT-3 и подобные ему модели NLP: есть еще и проблемы экологического характера.
GPT-3 — огромная нейронная сеть, в ее полной версии ~175 миллиардов обучаемых параметров. Для обучения такой сети требуется огромное количество вычислительных ресурсов: серверов с GPU. При работе серверы используют много электричества и выделяют много тепла в атмосферу. Ученые из MIT посчитали, что обучение особо крупных NLP-моделей может вызвать вбыросы около 626,000 фунтов (284.000 кг) углекислого газа в атмосферу. Это примерно равно тому, сколько углекислого газа вырабатывают 5 автомобилей за весь срок использования в Америке.
С успехом GPT-3 и AI в целом, с увеличением вычислительных мощностей серверов, появлением новых процессоров, на которых будет быстрее обучать нейронки и разговорами о GPT-4 все это начинает вызывать опасения. Некоторые ученые считают, что обучение AI-моделей уже оказывает значимый эффект на экологию.
Несколько исследователей, в том числе бывшие сотрудники Google Эмили Бендер и Тимнит Гебру, выпустили статью, в которой коснулись вопросов о том, как AI модели влияют на социум и экологию. Ученые считают, что сейчас самое время задуматься об этом, иначе станет слишком поздно.
Ссылки:
— статья
— прзентация статьи и обсуждение на YouTube
— статья washington.edu
Тимнит Гебру после своего скандального увольнения из Google продолжает изучать этические аспекты AI. В ее недавнем интервью журналу Wired она рассказала, почему считает, что всей индустрии AI нужно "замедлиться": какие проблемы вызывает быстрое и бесконтрольное появление новых технологий и какую роль в этом играют большие компании.
Ну и вопрос: насколько вас волнуют социальный и экологический аспект AI? Задумывались об этом?
#ai_inside #paper
В нескольких постах выше на нашем канале мы касались темы влияния технологии GPT-3 на социум: какое влияние это может оказать на медиа и на людей, которые, часто сами того не подозревая, общаются с ботом. Однако это не единственная проблема, которую порождает GPT-3 и подобные ему модели NLP: есть еще и проблемы экологического характера.
GPT-3 — огромная нейронная сеть, в ее полной версии ~175 миллиардов обучаемых параметров. Для обучения такой сети требуется огромное количество вычислительных ресурсов: серверов с GPU. При работе серверы используют много электричества и выделяют много тепла в атмосферу. Ученые из MIT посчитали, что обучение особо крупных NLP-моделей может вызвать вбыросы около 626,000 фунтов (284.000 кг) углекислого газа в атмосферу. Это примерно равно тому, сколько углекислого газа вырабатывают 5 автомобилей за весь срок использования в Америке.
С успехом GPT-3 и AI в целом, с увеличением вычислительных мощностей серверов, появлением новых процессоров, на которых будет быстрее обучать нейронки и разговорами о GPT-4 все это начинает вызывать опасения. Некоторые ученые считают, что обучение AI-моделей уже оказывает значимый эффект на экологию.
Несколько исследователей, в том числе бывшие сотрудники Google Эмили Бендер и Тимнит Гебру, выпустили статью, в которой коснулись вопросов о том, как AI модели влияют на социум и экологию. Ученые считают, что сейчас самое время задуматься об этом, иначе станет слишком поздно.
Ссылки:
— статья
— прзентация статьи и обсуждение на YouTube
— статья washington.edu
Тимнит Гебру после своего скандального увольнения из Google продолжает изучать этические аспекты AI. В ее недавнем интервью журналу Wired она рассказала, почему считает, что всей индустрии AI нужно "замедлиться": какие проблемы вызывает быстрое и бесконтрольное появление новых технологий и какую роль в этом играют большие компании.
Ну и вопрос: насколько вас волнуют социальный и экологический аспект AI? Задумывались об этом?