ИИ «Кафка»
Дочитываю книгу Эрика Шмидта и Генри Киссинджера «The Age of AI:
And Our Human Future». Перевел для вас проницательный пассаж:
«В современном мире мы обычно решаем проблемы, находя людей, ответственных за изъяны, лежащие в основе этой проблемы. Такой подход предполагает ответственность и агентность людей, он формировал наше самоощущение веками. Теперь в это уравнение входят новые акторы, которые могут ослабить наше ощущение, что мы – главные мыслители и движущая сила в каждой конкретной ситуации.
Временами все мы – как создатели и управляющие ИИ, так и простые пользователи – будем взаимодействовать с ИИ, не осознавая этого. Мы будем получать ответы ИИ, даже если мы его не спрашивали. И сталкиваться с решениями ИИ в ситуациях, в которых мы этого не просили. Временами невидимый ИИ будет делать мир будто одушевленным: например, магазины будут готовы к нашим визитам и нашим прихотям. А иногда ИИ будет вызывать кафкианское ощущение: когда организации будут принимать формирующие жизнь человека решения – предложения работы, решения по выдаче кредитов на машину и жилье, решения охранных фирм и правоохранительных органов – которые ни один человек не сможет обьяснить».
Кафкианская призма – довольно свежий взгляд на наше ближайшее будущее, которое обычно сводят к сценариям а-ля «1984» Оруэлла: вот, мол, есть большие братья, которые за всем следят и так и рвутся нас наказать за несоответствие правилам каких-то политических партий. Такой расклад, конечно, вероятен, но далеко не гарантирован и уж точно не является единственной альтернативой нашего будущего.
В написанном чуть больше ста лет назад романе «Процесс» главного героя Йозефа К. обвиняют в чем-то, но не сообщают, в чем: он пытается разобраться, но ему никто не может обьяснить, в чем же его провинность. Весь роман идет некий процесс, не понятный ни герою, ни окружающим: непонятно даже, кто именно ведет этот процесс. Зато результаты этого процесса очевидны – герой осужден и казнен.
У Кафки невидимые силы, судящие и выносящие приговор – аллюзии на бюрократию и «бездушную» государственную машину: изначально они созданы людьми, но в итоге обретают отдельную сущность и становятся невидимыми силами, управляющими судьбами людей. В произведениях Кафки эти невидимые силы чаще всего носят зловещий характер и обычно приводят к гибели или несчастью героев.
Так вот, алгоритмы и есть те самые неведомые силы – Процесс, созданный людьми и превзошедший их. Этот Процесс обещает сделать человечество богаче и здоровее, но, очевидно, потребует взамен слепого подчинения. И это подчинение, скорее всего, будет не таким, как в «1984», где правила могут не нравится, но, по крайней мере, они ясны, а, скорее, как в «Процессе», где правила непонятны, но не подчинится варианта нет.
Современный человек и так не понимает, что происходит в мире. Иллюзия понимания чаще всего появляется в результате пропаганды и медийной промывки мозгов. Возможно, в будущем неясные людям решения машин будут объяснять другие машины – и будут делать это специально подогнанным под каждого человека образом.
Так что если мы и вправду начнем страдать от необъяснимости происходящего, как это делали герои Кафки, ИИ сможет придумать для нас достаточно красивую сказку/ложь/нарратив, благодаря которым мы найдем смысл в беспрекословном послушании машинам.
Дочитываю книгу Эрика Шмидта и Генри Киссинджера «The Age of AI:
And Our Human Future». Перевел для вас проницательный пассаж:
«В современном мире мы обычно решаем проблемы, находя людей, ответственных за изъяны, лежащие в основе этой проблемы. Такой подход предполагает ответственность и агентность людей, он формировал наше самоощущение веками. Теперь в это уравнение входят новые акторы, которые могут ослабить наше ощущение, что мы – главные мыслители и движущая сила в каждой конкретной ситуации.
Временами все мы – как создатели и управляющие ИИ, так и простые пользователи – будем взаимодействовать с ИИ, не осознавая этого. Мы будем получать ответы ИИ, даже если мы его не спрашивали. И сталкиваться с решениями ИИ в ситуациях, в которых мы этого не просили. Временами невидимый ИИ будет делать мир будто одушевленным: например, магазины будут готовы к нашим визитам и нашим прихотям. А иногда ИИ будет вызывать кафкианское ощущение: когда организации будут принимать формирующие жизнь человека решения – предложения работы, решения по выдаче кредитов на машину и жилье, решения охранных фирм и правоохранительных органов – которые ни один человек не сможет обьяснить».
Кафкианская призма – довольно свежий взгляд на наше ближайшее будущее, которое обычно сводят к сценариям а-ля «1984» Оруэлла: вот, мол, есть большие братья, которые за всем следят и так и рвутся нас наказать за несоответствие правилам каких-то политических партий. Такой расклад, конечно, вероятен, но далеко не гарантирован и уж точно не является единственной альтернативой нашего будущего.
В написанном чуть больше ста лет назад романе «Процесс» главного героя Йозефа К. обвиняют в чем-то, но не сообщают, в чем: он пытается разобраться, но ему никто не может обьяснить, в чем же его провинность. Весь роман идет некий процесс, не понятный ни герою, ни окружающим: непонятно даже, кто именно ведет этот процесс. Зато результаты этого процесса очевидны – герой осужден и казнен.
У Кафки невидимые силы, судящие и выносящие приговор – аллюзии на бюрократию и «бездушную» государственную машину: изначально они созданы людьми, но в итоге обретают отдельную сущность и становятся невидимыми силами, управляющими судьбами людей. В произведениях Кафки эти невидимые силы чаще всего носят зловещий характер и обычно приводят к гибели или несчастью героев.
Так вот, алгоритмы и есть те самые неведомые силы – Процесс, созданный людьми и превзошедший их. Этот Процесс обещает сделать человечество богаче и здоровее, но, очевидно, потребует взамен слепого подчинения. И это подчинение, скорее всего, будет не таким, как в «1984», где правила могут не нравится, но, по крайней мере, они ясны, а, скорее, как в «Процессе», где правила непонятны, но не подчинится варианта нет.
Современный человек и так не понимает, что происходит в мире. Иллюзия понимания чаще всего появляется в результате пропаганды и медийной промывки мозгов. Возможно, в будущем неясные людям решения машин будут объяснять другие машины – и будут делать это специально подогнанным под каждого человека образом.
Так что если мы и вправду начнем страдать от необъяснимости происходящего, как это делали герои Кафки, ИИ сможет придумать для нас достаточно красивую сказку/ложь/нарратив, благодаря которым мы найдем смысл в беспрекословном послушании машинам.