Профессор Скиннер писал: «Злоупотребление технологией управления поведением – серьезная проблема, но мы можем защититься от нее, рассматривая не предполагаемых манипуляторов, а факторы подкрепления, которые управляют ими самими. Надо изучать не человеколюбие управляющего, а те факторы подкрепления, под действием которых он человеколюбиво управляет поведением других».
На западе мало обсуждают очень важную особенность системы социального рейтинга в Китае: оценивают не только граждан, но также бизнес и чиновников. Для всех категорий есть желаемые действия, за которые начисляются очки, и нежелательные, за которые очки снимаются. Не только человек, но и бизнес, и чиновник может попасть в красный список как выдающийся и заслуженный, или в черный список – как правонарушитель и мошенник. Красный список жизнь облегчает, а черный – затрудянет.
Пока что лучше всего соцрейтинг прижился именно в бизнесе: как раз компании (а не граждан или чиновников) активнее всего вносят в черные и красные списки.
Но мне интереснее всего, как социальный рейтинг распространится на чиновников.
Си Цзиньпин поклонник управления на основе больших данных (Data driven governance). Интернет вещей, блокчейн и финансовые алгоритмы обещают: чисел о работе чиновников будет гораздо больше — и их будет практически невозможно подделать и скрыть. Интерпретация этих чисел будет зависеть от алгоритмов, выставляющих госслужащему оценку, например, по пятибальной шкале. Ну а сами алгоритмы будут зависеть от ценностей, выдвинутых Партией.
Цифровой рейтинг для чиновников – это вполне экспортируемая технология. Китай может начать поставлять свои системы оценки, например, в Африку. В Америке и Европе изобретут собственные системы оценки работы госаппарата, соответствующие демократическим ценностям – и будут вынуждены на практике доказать, что именно оценки «демократической» нейросети делают госслужащих максимально эффективными.
Со временем нейросети начнут не только оценивать чиновников, но и предлагать альтернативные решения — тогда их начнут «нанимать в помощники». Вскоре станет ясно, что лучше всегда слушать нейросеть, а не человека: ее предложения каждый раз будут оказываться лучше. В итоге чиновники станут лицом государственного нейроинтеллекта — человеческим интерфейсом между ИИ и гражданами.
На западе мало обсуждают очень важную особенность системы социального рейтинга в Китае: оценивают не только граждан, но также бизнес и чиновников. Для всех категорий есть желаемые действия, за которые начисляются очки, и нежелательные, за которые очки снимаются. Не только человек, но и бизнес, и чиновник может попасть в красный список как выдающийся и заслуженный, или в черный список – как правонарушитель и мошенник. Красный список жизнь облегчает, а черный – затрудянет.
Пока что лучше всего соцрейтинг прижился именно в бизнесе: как раз компании (а не граждан или чиновников) активнее всего вносят в черные и красные списки.
Но мне интереснее всего, как социальный рейтинг распространится на чиновников.
Си Цзиньпин поклонник управления на основе больших данных (Data driven governance). Интернет вещей, блокчейн и финансовые алгоритмы обещают: чисел о работе чиновников будет гораздо больше — и их будет практически невозможно подделать и скрыть. Интерпретация этих чисел будет зависеть от алгоритмов, выставляющих госслужащему оценку, например, по пятибальной шкале. Ну а сами алгоритмы будут зависеть от ценностей, выдвинутых Партией.
Цифровой рейтинг для чиновников – это вполне экспортируемая технология. Китай может начать поставлять свои системы оценки, например, в Африку. В Америке и Европе изобретут собственные системы оценки работы госаппарата, соответствующие демократическим ценностям – и будут вынуждены на практике доказать, что именно оценки «демократической» нейросети делают госслужащих максимально эффективными.
Со временем нейросети начнут не только оценивать чиновников, но и предлагать альтернативные решения — тогда их начнут «нанимать в помощники». Вскоре станет ясно, что лучше всегда слушать нейросеть, а не человека: ее предложения каждый раз будут оказываться лучше. В итоге чиновники станут лицом государственного нейроинтеллекта — человеческим интерфейсом между ИИ и гражданами.