Представьте мир 2035 года, где ваш домашний робот вдруг начинает проявлять признаки сознания. Как вы отреагируете? Ученые предсказывают, что это может стать реальностью уже к 2035 году, и проблема сознательного ИИ вызывает острые споры среди исследователей.
Профессор Джонатан Бирч предупреждает о возможном "социальном разломе" между теми, кто верит в сознание ИИ, и теми, кто отрицает это. Возникнут субкультуры, каждая из которых будет считать другую глубоко заблуждающейся, что может даже затрагивать семейные отношения.
Крупные технологические компании, согласно Бирчу, избегают обсуждений о сознательном ИИ, предпочитая сосредоточиться на прибыли. В то же время, оценки уровня сознания ИИ могут опираться на аналогии с животными – например, осьминоги считаются более сознательными, чем улитки.
Патрик Бутлин из Оксфорда поднимает тревожный вопрос о том, могут ли ИИ-системы начать сопротивление, представляющее опасность для человечества. Однако не все согласны с тем, что сознательный ИИ — это неизбежность. Нейробиолог Анил Сет считает это «далекой перспективой».
Тем не менее, современные языковые модели, такие как Chat GPT-4o, демонстрируют признаки мотивации через концепции удовольствия и боли, что поднимает вопросы о истинной природе их "ощущений".
Тема сознания ИИ становится все более актуальной и выходит за рамки научной фантастики. Что вы думаете о возможном появлении сознательного ИИ?