#уже_не_новость
Бывший генсек ООН Пан Ги Мун, певица и активистка Энни Леннокс, ученый Джеффри Хинтон, миллиардер Ричард Брэнсон и внук физика-ядерщика Роберта Оппенгеймера подписали письмо против бесконтрольного развития ИИ-технологий.
📰 Кризис ИИ в документе сравнивается с климатическим кризисом, опасностью применения ядерного оружия и глобальной пандемией.
💬 Подобная истерия вокруг ИИ и опасений, что произойдет что-то невероятное, мне всегда казалась очень надуманной, пока я не заметил, что к ней присоединился Джеффри Хинтон. Ему, конечно, много лет, можно списать такое поведение на разные обстоятельства. Однако, все эти годы Хинтон демонстрирует невероятную ясность рассудка и продолжает быть ключевым человеком в deep learning (еще с тех пор, когда он так даже не назывался). Это и наводит на мысль, что ситуация действительно тревожная. В ближайшем будущем, вероятно, очень много сил будет брошено на AI-alignment, контроль искусственного интеллекта и другие меры, чтобы уберечь человечество от жестких негативных последствий развития ИИ.
💬 Как мне кажется, бунт искусственного интеллекта будет выглядеть не так, как это показано в фильмах, а скорее так, как мы это видим на практике. То есть, с одной стороны, это будет выкручивание параметров алгоритмов: например, ценообразования на какие-то вещи или персональных рекомендаций таким образом, что мы не сочтем это этичным. Но это будет оптимально с точки зрения оптимизируемого функционала для ИИ. И второе проявление "бунта" ИИ — откровенное введение клиента в заблуждение. Как это, например, происходит сейчас в первых экспериментах с использованием LLM'ок вместо сотрудников техподдержки (если кратко: врут беспощадно).
Бывший генсек ООН Пан Ги Мун, певица и активистка Энни Леннокс, ученый Джеффри Хинтон, миллиардер Ричард Брэнсон и внук физика-ядерщика Роберта Оппенгеймера подписали письмо против бесконтрольного развития ИИ-технологий.
📰 Кризис ИИ в документе сравнивается с климатическим кризисом, опасностью применения ядерного оружия и глобальной пандемией.
💬 Подобная истерия вокруг ИИ и опасений, что произойдет что-то невероятное, мне всегда казалась очень надуманной, пока я не заметил, что к ней присоединился Джеффри Хинтон. Ему, конечно, много лет, можно списать такое поведение на разные обстоятельства. Однако, все эти годы Хинтон демонстрирует невероятную ясность рассудка и продолжает быть ключевым человеком в deep learning (еще с тех пор, когда он так даже не назывался). Это и наводит на мысль, что ситуация действительно тревожная. В ближайшем будущем, вероятно, очень много сил будет брошено на AI-alignment, контроль искусственного интеллекта и другие меры, чтобы уберечь человечество от жестких негативных последствий развития ИИ.
💬 Как мне кажется, бунт искусственного интеллекта будет выглядеть не так, как это показано в фильмах, а скорее так, как мы это видим на практике. То есть, с одной стороны, это будет выкручивание параметров алгоритмов: например, ценообразования на какие-то вещи или персональных рекомендаций таким образом, что мы не сочтем это этичным. Но это будет оптимально с точки зрения оптимизируемого функционала для ИИ. И второе проявление "бунта" ИИ — откровенное введение клиента в заблуждение. Как это, например, происходит сейчас в первых экспериментах с использованием LLM'ок вместо сотрудников техподдержки (если кратко: врут беспощадно).