Computing machinery and intelligence
Статья: ссылка
Внезапный обзор относительно новой статьи. Центральный вопрос статьи, "Могут ли машины мыслить?", очевидно, не слишком хорошо определён. Что значит "мыслить"? Для разных людей это будет означать разное, но ведь странно сводить это к социологическому опросу.
Поэтому первый шаг — переопределение вопроса в игру. Игра такая: есть два игрока, A и B, и есть экзаменатор. Игроки и экзаменатор общаются исключительно удалённо и без визуального контакта, например через посредника. Задача экзаменатора — определить, кто из игроков машина, а кто человек. Теперь наш вопрос такой: "Могут ли существовать машины, которые будут неотличимы от людей в этой игре?".
Такой вопрос очень удобен, потому что мы разделяем интеллектуальное и физическое. Нас же не интересует, может ли машина стать человеком. Экзаменатор и игроки общаются исключительно посредством письменных вопросов и ответов. И письменные вопросы и ответы, в теории, охватывают огромное число областей человеческой деятельности.
Рассуждать про абстрактные "машины" тоже странно: у нас же есть компьютеры! Поэтому вопрос становится такой: "Может ли ваш ноутбук быть неотличимым от человека в этой игре, если в него докинуть памяти, видеокарт, и положить правильную программу?"
Ответ автора на этот вопрос: конечно, "ДА"👍
И дальше он разбирает 9 аргументов хейтеров (и имхо, я всегда считал это самой классной частью статьи):
1) У людей есть душа, а в машины Бог её не доложил😣
2) Сташно, вырубай (AI safety "специалисты", очевидно, были уже тогда)🔫
3) Это невозможно математически😱
4) "Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?"🚶♀️
5) Машины не смогут X: делать ошибки, быть добрыми, иметь чувство юмора, играть в шахматы, в Доту, в го, связно разговаривать, решать математические задачи, и так далее
6) Возражение Ады: машины не могут создавать что-то новое, только следовать программе
7) Невозможность воспроизвести нервную систему человека.
8) Невозможность описать реальность фиксированным набором правил.
9) Возможное существование телепатов (!) и того факта, что они сломали бы игру😁
Не все из них автор твёрдо опровергает, но хотя бы пытается. Ну а дальше идут рассуждения о том, как можно было бы такую умную машину построить. Тут я оставлю только цитаты:
- "I believe that in about 50 years' time it will be possible, to programme computers, with a storage capacity of about 10^9, to make them play the imitation game so well that an average interrogator will not have more than 70% chance of making the right identification after five minutes of questioning"
- "I should be surprised if more than 10^9 (binary digits) was required for satisfactory playing of the imitation game, at any rate against a blind man."
- "We normally associate punishments and rewards with the teaching process. Some simple child machines can be constructed or programmed on this sort of principle."
- "An important feature of a learning machine is that its teacher will often be very largely ignorant of quite what is going on inside, although he may still be able to some extent to predict his pupil's behavior."
- "Processes that are learnt do not produce a 100% certainty of result; if they did they could not be unlearnt. It is probably wise to include a random element in a learning machine."
Статья: ссылка
Внезапный обзор относительно новой статьи. Центральный вопрос статьи, "Могут ли машины мыслить?", очевидно, не слишком хорошо определён. Что значит "мыслить"? Для разных людей это будет означать разное, но ведь странно сводить это к социологическому опросу.
Поэтому первый шаг — переопределение вопроса в игру. Игра такая: есть два игрока, A и B, и есть экзаменатор. Игроки и экзаменатор общаются исключительно удалённо и без визуального контакта, например через посредника. Задача экзаменатора — определить, кто из игроков машина, а кто человек. Теперь наш вопрос такой: "Могут ли существовать машины, которые будут неотличимы от людей в этой игре?".
Такой вопрос очень удобен, потому что мы разделяем интеллектуальное и физическое. Нас же не интересует, может ли машина стать человеком. Экзаменатор и игроки общаются исключительно посредством письменных вопросов и ответов. И письменные вопросы и ответы, в теории, охватывают огромное число областей человеческой деятельности.
Рассуждать про абстрактные "машины" тоже странно: у нас же есть компьютеры! Поэтому вопрос становится такой: "Может ли ваш ноутбук быть неотличимым от человека в этой игре, если в него докинуть памяти, видеокарт, и положить правильную программу?"
Ответ автора на этот вопрос: конечно, "ДА"
И дальше он разбирает 9 аргументов хейтеров (и имхо, я всегда считал это самой классной частью статьи):
1) У людей есть душа, а в машины Бог её не доложил
2) Сташно, вырубай (AI safety "специалисты", очевидно, были уже тогда)
3) Это невозможно математически
4) "Ты всего лишь машина, только имитация жизни. Робот сочинит симфонию? Робот превратит кусок холста в шедевр искусства?"
5) Машины не смогут X: делать ошибки, быть добрыми, иметь чувство юмора, играть в шахматы, в Доту, в го, связно разговаривать, решать математические задачи, и так далее
6) Возражение Ады: машины не могут создавать что-то новое, только следовать программе
7) Невозможность воспроизвести нервную систему человека.
8) Невозможность описать реальность фиксированным набором правил.
9) Возможное существование телепатов (!) и того факта, что они сломали бы игру
Не все из них автор твёрдо опровергает, но хотя бы пытается. Ну а дальше идут рассуждения о том, как можно было бы такую умную машину построить. Тут я оставлю только цитаты:
- "I believe that in about 50 years' time it will be possible, to programme computers, with a storage capacity of about 10^9, to make them play the imitation game so well that an average interrogator will not have more than 70% chance of making the right identification after five minutes of questioning"
- "I should be surprised if more than 10^9 (binary digits) was required for satisfactory playing of the imitation game, at any rate against a blind man."
- "We normally associate punishments and rewards with the teaching process. Some simple child machines can be constructed or programmed on this sort of principle."
- "An important feature of a learning machine is that its teacher will often be very largely ignorant of quite what is going on inside, although he may still be able to some extent to predict his pupil's behavior."
- "Processes that are learnt do not produce a 100% certainty of result; if they did they could not be unlearnt. It is probably wise to include a random element in a learning machine."