Superintelligence и мем про галактический мозг
#ai #meme_story
Все видели мем про мозг, прорастающий через череп, стулья, дома и в итоге занимающий целую галактику. Не могу утверждать, что именно книга Nick Bostrom "Superintelligence: Paths, Dangers, Strategies” его породила (на KnowYourMeme такого не пишут), но у Бострёма тема колонизации галактик, заполнения их интеллектом (естественным или искусственным), вычислительной симуляции жизни и т.д. проглядывается на протяжении всего произведения, так что приведу отрывок, в своей вольной суммаризации (пересказ – обычным текстом, а мои коментарии – курсивом). Это, безусловно, технократическая фантастика, и я не скажу, что разделяю все описанные идеи. Но, как минимум, размышления Бострёма интересны. А в свете нового подогрева дискуссий про AGI стоит отметить, что “Superintelligence” – основополагающий труд, собрание идей про проблемы контроля зарождающегося AI, связанных с этим рисков, “галактик-производителей скрепок” и т.д. Книга повлияла на многих AGI-алармистов, включая Маска и Гейтса и, что интересно, имеет не самые высокие оценки, т.к. многие люди не разделяют идей Бострёма. Даже если вы окажетесь не согласны с рассуждениями Бострёма, познакомиться с ними – очень занятно. А если упрощать, не читал “Superintelligence” – даже не произноси “AGI”.
---
Представим цивилизацию, настолько технически развитую, что она может построить аппараты, летающие со скорость 50% от скорости света, например, зонды фон Неймана (прыгнул сразу сюда, до этого в книге рассуждения об этой идее фон Неймана, тлдр: это нанозонды, способные реплицироваться на других планетах и таким образом “распылиться” по нашей галактике ~ за 1 миллион лет https://futurism.com/von-neumann-probe). При скорости 0.5с такие зонды смогут достичь ~6*10^18 звезд (а при скорости 0.99c – 2*10^20 звезд). Ограничение в виде скорости света и ускоряющегося расширения Вселенной дают верхнюю оценку в 10^21 звезд, потенциально достижимых нашей цивилизацией.
Если предположить, что у 10% звезд есть планеты, пригодные для жизни человекоподобных существ и поддерживания миллиарда жизней на протяжении миллиарда лет, при длине жизни в 100 лет, мы приходим к оценке в 10^35 жизней, порожденных технически развитой цивилизацией с Земли. И это только в предположении, что заселятся будут только поверхности планет, но если размещать существа в подземные цилиндры О’Нила (в которых вращение создает искусственную гравитацию), можно подкинуть еще несколько порядков.
Далее, мы можем (и должны) создать еще на несколько порядков больше интеллектов, когда AGI сравняется с человеческим интеллектом (что бы это ни значило). Чтоб прикинуть число цифровых разумов, Бострём предлагает оценить всю вычислительную мощь, которую способна развить цивилизация. Тут упоминается концепция сферы Дайсона, которая собирает всю энергию звезды и перенаправляет ее в вычислительные мощности. Звезда сравнимая с Солнцем может отдать 10^26 Вт энергии. В зависимости от эффективности превращения энергии звезды в вычисления, такой комьютрониум может дать до 10^47 ops. Вместе с предыдущей оценкой числа звезд, достижимых цивилизацией, мы получаем около 10^67 ops, которые может выработать технологически развитая цивилизация. Со средней оценкой жизни звезды в 10^18 секунд, это дает 10^85 вычислительных операций. Бострём называет это даже нижней оценкой, а не верхней, поскольку тут не учитывались ни темная материя, ни возможность проводить вычисления на низких температурах, ни прочие оптимизации и пока не известные ресурсы.
#ai #meme_story
Все видели мем про мозг, прорастающий через череп, стулья, дома и в итоге занимающий целую галактику. Не могу утверждать, что именно книга Nick Bostrom "Superintelligence: Paths, Dangers, Strategies” его породила (на KnowYourMeme такого не пишут), но у Бострёма тема колонизации галактик, заполнения их интеллектом (естественным или искусственным), вычислительной симуляции жизни и т.д. проглядывается на протяжении всего произведения, так что приведу отрывок, в своей вольной суммаризации (пересказ – обычным текстом, а мои коментарии – курсивом). Это, безусловно, технократическая фантастика, и я не скажу, что разделяю все описанные идеи. Но, как минимум, размышления Бострёма интересны. А в свете нового подогрева дискуссий про AGI стоит отметить, что “Superintelligence” – основополагающий труд, собрание идей про проблемы контроля зарождающегося AI, связанных с этим рисков, “галактик-производителей скрепок” и т.д. Книга повлияла на многих AGI-алармистов, включая Маска и Гейтса и, что интересно, имеет не самые высокие оценки, т.к. многие люди не разделяют идей Бострёма. Даже если вы окажетесь не согласны с рассуждениями Бострёма, познакомиться с ними – очень занятно. А если упрощать, не читал “Superintelligence” – даже не произноси “AGI”.
---
Представим цивилизацию, настолько технически развитую, что она может построить аппараты, летающие со скорость 50% от скорости света, например, зонды фон Неймана (прыгнул сразу сюда, до этого в книге рассуждения об этой идее фон Неймана, тлдр: это нанозонды, способные реплицироваться на других планетах и таким образом “распылиться” по нашей галактике ~ за 1 миллион лет https://futurism.com/von-neumann-probe). При скорости 0.5с такие зонды смогут достичь ~6*10^18 звезд (а при скорости 0.99c – 2*10^20 звезд). Ограничение в виде скорости света и ускоряющегося расширения Вселенной дают верхнюю оценку в 10^21 звезд, потенциально достижимых нашей цивилизацией.
Если предположить, что у 10% звезд есть планеты, пригодные для жизни человекоподобных существ и поддерживания миллиарда жизней на протяжении миллиарда лет, при длине жизни в 100 лет, мы приходим к оценке в 10^35 жизней, порожденных технически развитой цивилизацией с Земли. И это только в предположении, что заселятся будут только поверхности планет, но если размещать существа в подземные цилиндры О’Нила (в которых вращение создает искусственную гравитацию), можно подкинуть еще несколько порядков.
Далее, мы можем (и должны) создать еще на несколько порядков больше интеллектов, когда AGI сравняется с человеческим интеллектом (что бы это ни значило). Чтоб прикинуть число цифровых разумов, Бострём предлагает оценить всю вычислительную мощь, которую способна развить цивилизация. Тут упоминается концепция сферы Дайсона, которая собирает всю энергию звезды и перенаправляет ее в вычислительные мощности. Звезда сравнимая с Солнцем может отдать 10^26 Вт энергии. В зависимости от эффективности превращения энергии звезды в вычисления, такой комьютрониум может дать до 10^47 ops. Вместе с предыдущей оценкой числа звезд, достижимых цивилизацией, мы получаем около 10^67 ops, которые может выработать технологически развитая цивилизация. Со средней оценкой жизни звезды в 10^18 секунд, это дает 10^85 вычислительных операций. Бострём называет это даже нижней оценкой, а не верхней, поскольку тут не учитывались ни темная материя, ни возможность проводить вычисления на низких температурах, ни прочие оптимизации и пока не известные ресурсы.