Сейчас, после пары пятничных коктейлей, будет философский пост, как бы приглашающий к дискуссии. Инициированы размышления последними обновлениями канала https://t.me/tldr_tany . Заранее извиняюсь, если для специалистов дальнейшие рассуждения покажутся банальными, просто я хочу сделать их понятными для всех, поэтому неизбежно придется проговорить некоторые простые вещи.
Насколько я поняла, автор канала недавно получила должность СЕО стартапа https://journeyapp.ai/ , который разрабатывает приложение, где можно подружиться или даже развить романтические отношения (что бы это ни значило) с виртуальным персонажем, ответы для которого генерирует нейросеть. Многие читатели канала не одобрили идею этого стартапа, вызывала она неодобрение и у меня - но по другим причинам, чем у большинства высказавшихся против нее.
Меня беспокоит, что от работы с приложением, специально нацеленным на формирование привязанности человека к нейросети, неосведомленные люди начнут очеловечивать эти несчастные алгоритмы еще больше, чем раньше. Нам, людям, вообще свойственно очеловечивать все подряд, а тут к этому будут еще и подталкивать специально, увеличивая степень неадекватности того, как широкая публика воспринимает алгоритмы глубокого обучения.
Почему же очеловечивание нейросети является неадекватным? Некоторые специалисты бы ответили, что матричные умножения попросту не могут мыслить, чувствовать и обладать сознанием. Я не соглашусь с этим утверждением. Не существует точной формулировки того, что такое "мысли", "чувства" и "сознание". Мы не понимаем, почему наша собственная нервная ткань способна обладать всеми этими абстрактными вещами, и не можем сделать вывод, способен на это или нет набор матричных умножений. Тем не менее, можно перечислить то, на что нейросети того типа, который сейчас используется для генерации текста, точно не способны:
#духота
Насколько я поняла, автор канала недавно получила должность СЕО стартапа https://journeyapp.ai/ , который разрабатывает приложение, где можно подружиться или даже развить романтические отношения (что бы это ни значило) с виртуальным персонажем, ответы для которого генерирует нейросеть. Многие читатели канала не одобрили идею этого стартапа, вызывала она неодобрение и у меня - но по другим причинам, чем у большинства высказавшихся против нее.
Меня беспокоит, что от работы с приложением, специально нацеленным на формирование привязанности человека к нейросети, неосведомленные люди начнут очеловечивать эти несчастные алгоритмы еще больше, чем раньше. Нам, людям, вообще свойственно очеловечивать все подряд, а тут к этому будут еще и подталкивать специально, увеличивая степень неадекватности того, как широкая публика воспринимает алгоритмы глубокого обучения.
Почему же очеловечивание нейросети является неадекватным? Некоторые специалисты бы ответили, что матричные умножения попросту не могут мыслить, чувствовать и обладать сознанием. Я не соглашусь с этим утверждением. Не существует точной формулировки того, что такое "мысли", "чувства" и "сознание". Мы не понимаем, почему наша собственная нервная ткань способна обладать всеми этими абстрактными вещами, и не можем сделать вывод, способен на это или нет набор матричных умножений. Тем не менее, можно перечислить то, на что нейросети того типа, который сейчас используется для генерации текста, точно не способны:
#духота