Сейчас все обсуждают свежую статью Генри Киссинджера (которому в следующем году стукнет сто лет) «Как избежать ещё одной мировой войны».
Рашистам статья Киссинджера не понравилась. Еще в мае он считал, что Украина должна сохранить нейтральный внеблоковый статус, но теперь безапелляционно утверждает, что она так и или иначе должна присоединиться к блоку НАТО как одна из сильнейших и самых современных европейских армий. Украинцам же не понравилось, что Киссинджер вторит идее Илона Маска: что судьба так называемых «ЛДНР» и Крыма должна определяться на международно признанных референдумах.
Генри Киссинджер — крайне противоречивая фигура и один и самых интересных из ныне живущих политиков. Он был был одним из тех, кто развязал Вьетнамскую войну, а потом получил Нобелевскую премию мира за ее окончание. После этого он стал одной из ключевых фигур на Западе, принявшей участие в превращении Китая из аграрной страны в сверхдержаву, помогая Китаю наладить отношения с США (что в итоге стало угрозой для Америки).
В прошлом году я писал, что меня впечатлила книга Генри Киссинджера и Эрика Шмидта «The age of AI and our human future». И в этой свежей статье меня тоже заинтересовало не столько предложение по урегулированию нашей войны, сколько следующие мысли:
«Автономное оружие уже существует и способно самостоятельно определять угрозу, оценивать её и принимать решение об атаке — то есть самостоятельно начинать войну. Как только мы вступим на эту территорию и эти высокие технологии станут стандартным вооружением, а компьютеры — главными исполнителями военной стратегии, мир окажется в условиях, к которому у нас все еще не выработаны подходы. Как лидеры могут сохранять контроль, когда компьютеры предписывают стратегические инструкции на таком масштабе и таким образом, что это, по сути, ограничивает и даже угрожает участию людей?»
Киссинджер описывает ближайшее будущее, где военизированный ИИ управляет ВПК, принимает решения, какое оружие производить, какие цели атаковать, сколько гражданских погибнет и чем закончится война.
ИИ уже двигается со скоростью, недоступной человеческому восприятию. И уже проник в войны. Скоро генералы перестанут понимать, что происходит на поле боя, — но будут бояться вмешаться, ведь ИИ превосходит людей по глубине и скорости оценки ситуации и планированию.
Я, как украинец, вообще не против использования в этой войне автономные дроны, потому что я не хочу, чтобы в борьбе с агрессором гибли живые люди — мои соотечественники. Но как человек, который занимается этикой технологий, я понимаю, что это ставит перед нами огромные проблемы, к которым надо готовиться и которые надо решать уже сейчас. Намек на эту проблему мы давно видели в 4 сезоне сериала «Черное зеркало» в серии «Metalhead»: автономное оружие выпустит из бутылки джинна, которого никак не получится затолкнуть обратно.
Нам нужно хорошенько думать, как удержать автономный военизиованный ИИ в рамках. И для этого анализа нам нужно использовать равный ему по мощности ИИ, который помогал бы нам развивать, а не разрушать мир.
Проблема в том, что Путин и ко в самый критический для развития технологий момент толкают мир к дисбалансу, усиливая необходимость развития ИИ-разрушителя и снижая наши шансы на развитие ИИ-управленца и регулятора. Россия склоняет мир на путь глобальной автоматизированной технологической войны — и именно в этом смысле она угрожает всей Земле и именно поэтому каждый гуманист сейчас хочет её остановить.
Рашистам статья Киссинджера не понравилась. Еще в мае он считал, что Украина должна сохранить нейтральный внеблоковый статус, но теперь безапелляционно утверждает, что она так и или иначе должна присоединиться к блоку НАТО как одна из сильнейших и самых современных европейских армий. Украинцам же не понравилось, что Киссинджер вторит идее Илона Маска: что судьба так называемых «ЛДНР» и Крыма должна определяться на международно признанных референдумах.
Генри Киссинджер — крайне противоречивая фигура и один и самых интересных из ныне живущих политиков. Он был был одним из тех, кто развязал Вьетнамскую войну, а потом получил Нобелевскую премию мира за ее окончание. После этого он стал одной из ключевых фигур на Западе, принявшей участие в превращении Китая из аграрной страны в сверхдержаву, помогая Китаю наладить отношения с США (что в итоге стало угрозой для Америки).
В прошлом году я писал, что меня впечатлила книга Генри Киссинджера и Эрика Шмидта «The age of AI and our human future». И в этой свежей статье меня тоже заинтересовало не столько предложение по урегулированию нашей войны, сколько следующие мысли:
«Автономное оружие уже существует и способно самостоятельно определять угрозу, оценивать её и принимать решение об атаке — то есть самостоятельно начинать войну. Как только мы вступим на эту территорию и эти высокие технологии станут стандартным вооружением, а компьютеры — главными исполнителями военной стратегии, мир окажется в условиях, к которому у нас все еще не выработаны подходы. Как лидеры могут сохранять контроль, когда компьютеры предписывают стратегические инструкции на таком масштабе и таким образом, что это, по сути, ограничивает и даже угрожает участию людей?»
Киссинджер описывает ближайшее будущее, где военизированный ИИ управляет ВПК, принимает решения, какое оружие производить, какие цели атаковать, сколько гражданских погибнет и чем закончится война.
ИИ уже двигается со скоростью, недоступной человеческому восприятию. И уже проник в войны. Скоро генералы перестанут понимать, что происходит на поле боя, — но будут бояться вмешаться, ведь ИИ превосходит людей по глубине и скорости оценки ситуации и планированию.
Я, как украинец, вообще не против использования в этой войне автономные дроны, потому что я не хочу, чтобы в борьбе с агрессором гибли живые люди — мои соотечественники. Но как человек, который занимается этикой технологий, я понимаю, что это ставит перед нами огромные проблемы, к которым надо готовиться и которые надо решать уже сейчас. Намек на эту проблему мы давно видели в 4 сезоне сериала «Черное зеркало» в серии «Metalhead»: автономное оружие выпустит из бутылки джинна, которого никак не получится затолкнуть обратно.
Нам нужно хорошенько думать, как удержать автономный военизиованный ИИ в рамках. И для этого анализа нам нужно использовать равный ему по мощности ИИ, который помогал бы нам развивать, а не разрушать мир.
Проблема в том, что Путин и ко в самый критический для развития технологий момент толкают мир к дисбалансу, усиливая необходимость развития ИИ-разрушителя и снижая наши шансы на развитие ИИ-управленца и регулятора. Россия склоняет мир на путь глобальной автоматизированной технологической войны — и именно в этом смысле она угрожает всей Земле и именно поэтому каждый гуманист сейчас хочет её остановить.