К эссе обязательно надо прислушаться, потратьте 5 минут перед сном, не пожалеете.
Почему это важно:
• Именно Амодей сейчас делает Claude — топ-5 самых мощных нейронок в мире.
• Возможно, Амодей и будет тем, кто создаст AGI.
• Амодей прогнозирует AGI уже в 2026 году, и, что важно, это повторный прогноз — мужик с прошлого года не переносит дедлайны.
• Амодей не набрасывает, а даёт аккуратные точечные прогнозы.
Что меня поразило:
• Чтобы создать AGI, всем демократическим странам надо объединиться — так у них будут все ресурсы и полная цепочка поставок.
• Всем остальным надо мешать и перекрывать доступ к полупроводникам и другим ресурсам.
• Остальных Амодей прямо называет «плохими авторитарными странами, которым нельзя дать доступ к AGI».
• Коалиция светлоликих демократических стран будет использовать AGI как кнут и пряник.
• Кнут — тотальное военное превосходство.
• Пряник — возможность чуть-чуть попользоваться мощностями сверхинтеллекта взамен на принятие демократии.
• Безумие: чтобы построить такой ИИ, понадобится экстракоординация государств и частных компаний — частникам (читай, людям) придётся отказаться от всех свобод.
• Всё это делается, само собой, ради защиты прав и свобод людей в авторитарных странах.
Ещё раз: светлые демократии должны первыми построить новое ядерное оружие, чтобы запугать всех несогласных и принудить их жить правильно. В жертву светлому будущему граждане светлых демократий должны будут отдать свои свободы... ради ещё больших свобод.
Я сошёл с ума, пока читал этот кусок, но только лишний раз убедился — гонка за AGI будет насмерть, и победитель заберёт всё.
Пет-проект