AGI
ИИ-гуру Кай Фу Ли написал статью. Вот перевод пары отрывков и мои комментарии к ним.
«Критика ИИ-систем звучит так: "У них никогда не будет чувства юмора. Они никогда не смогут оценить искусство, красоту или любовь. Они никогда не смогут почувствовать одиночество. У них не будет эмпатии к другим людям, животным, окружающей среде. Они не будут наслаждаться музыкой и влюбляться или плакать по мелочам". Правда, звучит разумно? Оказывается, эта цитата принадлежит перу GPT-3. Не противоречит ли способность технологии так точно себя критиковать самой сути этой критики?»
Если ИИ «понимает», как мы видим его недостатки, он может их «исправить» – точнее, сделать вид, что исправил. Может, нам в действительности не важна искренность реакции другого «человека», а ее правдоподобность?
Представьте, что робот слушает музыку рядом с человеком и она ему «нравится»: он будет светиться цветом удовольствия, по его коже будут бегать мурашки, он будет пританцовывать и мурлыкать. Робот идеально сыграет реакцию на любимую песню, а человек будет рад «разделить переживания» от любимой музыки с робо-другом. Реакция робота будет казаться искренней, потому что не все песни человека будут вызывать у него одинаковый энтузиазм: «Мой робоПетя не очень любит Сержа Генсбура, но обожает раннего Снуп Дога».
«Станет ли глубокое обучение "сильным ИИ" (“artificial general intelligence” (AGI) во всем равным человеческому интеллекту? Не думаю, что это произойдет в следующие 20 лет. Есть много проблем, которые мы пока не решили и даже не понимаем до конца: как смоделировать креативность, стратегическое мышление, способность рассуждать, контрфактическое мышление, эмоции и сознание».
Пока явления вроде творческого мышления – неразрешимые «проблемы» для ИИ-ученых, человеческие таланты будут оставаться самым ценным ресурсом на Земле.
В отличие от искусственных нейросетей, человеческий талант пока невозможно создать с помощью компьютеров и алгоритмов. В Кремниевой долине верят в то, что талант распределен по человечеству равномерно: в любой стране можно найти своего Цукерберга — но ни одна страна не может "специально" вырастить Цукерберга. Поэтому США собирается и дальше импортировать таланты из-за океана и ехидно наблюдать, как Китай пытается выращивать таланты в «парнике за фаерволом».
«Я предлагаю прекратить считать AGI мерилом успеха технологии ИИ. Скоро глубокое обучение и его расширения станут лучше людей в еще большем количестве заданий, но все равно будет много проблем, с которыми люди справятся гораздо лучше, чем глубокое обучение. Я считаю одержимость AGI проявлением нарциссизма людей, склонностью считать себя золотым стандартом».
Я согласен с Кай Фу Ли. На мой взгляд, ближайший фундаментальный прорыв в сфере ИИ – это не создание AGI, а прямое слияние искусственных нейросетей с человеческими мозгами через нейроимпланты. Такой расклад позволит человеку не только расширить свое сознание и когницию с помощью ИИ, но и объединит мозги людей в большие сети – это создаст коллективную сущность, в которой не будет особой разницы между ИИ и человеком.
Возможно, именно такие мозгосети и дадут нам возможность разгадать “проблемы” вроде креативности и создать AGI. А возможно, сильный искусственный интеллект нам и вовсе тогда не понадобится.
ИИ-гуру Кай Фу Ли написал статью. Вот перевод пары отрывков и мои комментарии к ним.
«Критика ИИ-систем звучит так: "У них никогда не будет чувства юмора. Они никогда не смогут оценить искусство, красоту или любовь. Они никогда не смогут почувствовать одиночество. У них не будет эмпатии к другим людям, животным, окружающей среде. Они не будут наслаждаться музыкой и влюбляться или плакать по мелочам". Правда, звучит разумно? Оказывается, эта цитата принадлежит перу GPT-3. Не противоречит ли способность технологии так точно себя критиковать самой сути этой критики?»
Если ИИ «понимает», как мы видим его недостатки, он может их «исправить» – точнее, сделать вид, что исправил. Может, нам в действительности не важна искренность реакции другого «человека», а ее правдоподобность?
Представьте, что робот слушает музыку рядом с человеком и она ему «нравится»: он будет светиться цветом удовольствия, по его коже будут бегать мурашки, он будет пританцовывать и мурлыкать. Робот идеально сыграет реакцию на любимую песню, а человек будет рад «разделить переживания» от любимой музыки с робо-другом. Реакция робота будет казаться искренней, потому что не все песни человека будут вызывать у него одинаковый энтузиазм: «Мой робоПетя не очень любит Сержа Генсбура, но обожает раннего Снуп Дога».
«Станет ли глубокое обучение "сильным ИИ" (“artificial general intelligence” (AGI) во всем равным человеческому интеллекту? Не думаю, что это произойдет в следующие 20 лет. Есть много проблем, которые мы пока не решили и даже не понимаем до конца: как смоделировать креативность, стратегическое мышление, способность рассуждать, контрфактическое мышление, эмоции и сознание».
Пока явления вроде творческого мышления – неразрешимые «проблемы» для ИИ-ученых, человеческие таланты будут оставаться самым ценным ресурсом на Земле.
В отличие от искусственных нейросетей, человеческий талант пока невозможно создать с помощью компьютеров и алгоритмов. В Кремниевой долине верят в то, что талант распределен по человечеству равномерно: в любой стране можно найти своего Цукерберга — но ни одна страна не может "специально" вырастить Цукерберга. Поэтому США собирается и дальше импортировать таланты из-за океана и ехидно наблюдать, как Китай пытается выращивать таланты в «парнике за фаерволом».
«Я предлагаю прекратить считать AGI мерилом успеха технологии ИИ. Скоро глубокое обучение и его расширения станут лучше людей в еще большем количестве заданий, но все равно будет много проблем, с которыми люди справятся гораздо лучше, чем глубокое обучение. Я считаю одержимость AGI проявлением нарциссизма людей, склонностью считать себя золотым стандартом».
Я согласен с Кай Фу Ли. На мой взгляд, ближайший фундаментальный прорыв в сфере ИИ – это не создание AGI, а прямое слияние искусственных нейросетей с человеческими мозгами через нейроимпланты. Такой расклад позволит человеку не только расширить свое сознание и когницию с помощью ИИ, но и объединит мозги людей в большие сети – это создаст коллективную сущность, в которой не будет особой разницы между ИИ и человеком.
Возможно, именно такие мозгосети и дадут нам возможность разгадать “проблемы” вроде креативности и создать AGI. А возможно, сильный искусственный интеллект нам и вовсе тогда не понадобится.