В Российском государственном социальном университете (РГСУ) идет тестирование системы социального рейтинга по китайскому образцу. Она должна оценивать статус человека и присваивать ему определенный рейтинг. Платформа будет именоваться «Мы», в чем нетрудно заметить постмодернистскую иронию — точно так же называется роман-антиутопия Евгения Замятина о тоталитарном обществе будущего, где вместо имен людям присваиваются буквенно-цифровые коды. На эту новость откликнулись в Госдуме — депутат и лидер партии «Новые люди» Алексей Нечаев раскритиковал проект. В РГСУ в свою очередь заявили, что всего лишь создают «инновационные практические инструменты для улучшения социального ландшафта и социального инжиниринга». «Москвич Mag» решил узнать, чем грозит введение подобных инструментов.

Улучшение социального ландшафта

Про «киберпанк, который мы заслужили» в последние годы говорят много, ломая тысячи копий относительно внедрения современных технологий в нашу жизнь и того, как технический прогресс может обернуться цифровой диктатурой. Об этом много дискутировали, когда каждый закоулок Москвы обрастал камерами наружного наблюдения, научившимися считывать лица прохожих. Потом разговоры продолжились во время пандемии и фобий относительно QR-кодов. Теперь, когда российско-китайская дружба крепнет день ото дня, настала очередь так называемого социального рейтингования — системы цифрового ранжирования людей, которая практикуется в КНР (и не только).

Работа над системой социального рейтингования в РГСУ началась еще год назад, о чем рассказывали первый проректор Джомарт Алиев и декан факультета политических и социальных технологий Светлана Бородулина. Они, в частности, предлагали «запустить опережающими темпами проект социального скоринга», а именно «количественную метрику социальных статусов и уровней граждан посредством процедур социального оценивания».

«Выходные данные будут выпускаться в виде двухкомпонентного скоринг-кода (СК), где оба компонента будут двухразрядными числами, определяющими социальный статус человека (первый) и его социальный уровень (второй). Например, 47-29. Социальный статус — отражение своего рода “заслуг” человека, а социальный уровень — оцифровка как бы его “перспектив”», — говорилось в докладе Алиева и Бородулиной.

Как заявил проректор РГСУ по научной деятельности Василий Уроженко, создатели проекта «Мы» работают над системой, «которая может использоваться органами власти всех уровней, общественными организациями для реализации оперативной и объективной социальной поддержки населения».

«Работа в этом направлении стартовала более года назад и предполагает сбор определенной социальной информации респондентов, которые принимают участие в исследовании на добровольной основе», — утверждает Уроженко, добавляя, что РГСУ создает «инновационные практические инструменты для улучшения социального ландшафта и социального инжиниринга».

Оголтелый киберпанк

О том, что такое социальное рейтингование и как оно работает, «Москвич Mag» в деталях рассказал глава компании-разработчика искусственного интеллекта «А-Я эксперт» Роман Душкин. По его мнению, это явление существует с того момента, когда человек стал разумным видом, и «отражает иерархическую структуру общества, которая была всегда». Социальными рейтингами можно считать воинские чины или звания госслужбы. К этой теме относится и вывешивание каких-либо передовиков на доски почета или награждение победителей соцсоревнований в СССР.

«Другое дело, когда система социального рейтингования обретает национальный масштаб и становится обязательной — это уже путь в антиутопию. До того как внедрять какие-либо системы социального, профессионального и другого рейтингования, необходимо проводить детальнейшие исследования. Система социального рейтингования должна быть объективной, независимой и прозрачной, — продолжает Душкин, не исключая, что РГСУ “проводит прощупывание общества, его отношения к созданию такой системы”. — В этом случае может родиться что-то приличное, но в очень-очень редком случае. Общество еще не готово к этому, и все это в нынешней ситуации выродится в киберпанк на 100%, какими бы благими намерениями ни руководствовались создатели такой системы».

В качестве иллюстрации Роман Душкин предлагает посмотреть серию «Нырок» сериала «Черное зеркало». Там показано общество, где каждый человек имеет свою оценку, от которой зависят и его возможности. Например, обладатели высокого рейтинга — это сливки общества, а получившие небольшой балл вынуждены обитать внизу социальной пирамиды.

«Если такая система будет внедрена и если она будет распространяться на всех, это мгновенно приведет к стратификации общества, которое и так разделено на слои и страты, а при помощи системы социального рейтингования это будет выпячено наружу», — полагает Роман Душкин.

Также специалист в области искусственного интеллекта опасается «схлопывания многогранной личности в какую-то безликую цифру», из-за чего будут теряться данные о каждом конкретном человеке.

«Это значит, что мы начинаем принимать решения в условиях неполной информации. Например, у Петрова 65 баллов, а у Сидорова 66. Значит, Сидоров лучше? Но если бы мы рассмотрели полноту картины, то увидели, что Петров лучше работает на токарном станке, а Сидоров — на фрезерном. И Петрова послали бы на одну работу, а Сидорова — на другую», — добавил Душкин.

Он уверен, что в РФ вряд ли создадут систему жесткого рейтингования, потому что российское государство «внимательно смотрит на тенденции в обществе» и является социальным. «Даже я, будучи технооптимистом, понимаю, что подобное социальное рейтингование — это путь в оголтелый киберпанк. Такого быть не должно. Должно быть что-то другое», — уверен эксперт, полагая, что вместо «безликой цифры» ранжирование социума должно быть «многогранным, многоликим и многокритериальным» по принципу машиночитаемого резюме.

Экс-депутат Госдумы и вице-президент Корпорации труда России (КТР) Олег Шеин в свою очередь не исключает, что после «тренировки на студентах» инициатива может распространиться на всю страну. Саму разработку он назвал опасными поползновениями.

Шеин полагает, что смысл социального рейтинга — в выращивании «лояльного гражданина»: «Если тот не совершает нарушений, не высказывает крамолы и не судится с властями по всяким пустякам типа предоставления жилья, то рейтинг будет хороший. Если гражданин ходит на созванные начальством митинги или стал депутатом и голосует за все, что спустят сверху, то к рейтингу добавят бонус. Ну а когда баллы из рейтинга снижают, человека не возьмут на работу, не выдадут кредит и просто даже не продадут билет на самолет или поезд. И дети не смогут поступить куда хотят. В Китае это так работает».

Made in China

О том, как работает социальный рейтинг в Китае, рассказывает живущий там историк Илья Фальковский. «Жена моя, тесть, теща, дети и целый сонм родственников — китайцы. Но никто из них ни о каком рейтинге слыхом не слыхивал. Если он и есть, то какой-то невидимый. И на реальной жизни никак не сказывается. Да, какое-то время были тестовые попытки в отдельных городах, но на этом все и закончилось. Да, злостных неплательщиков вносят в черные списки, и на определенный срок им запрещено покупать билеты на самолеты и высокоскоростные поезда, но такая практика существует и в других странах», — объясняет Фальковский.

В свою очередь Роман Душкин считает, что по поводу системы социального рейтингования в КНР существует «большое количество мифов и наслоений, которые СМИ берут откуда угодно, только не из нормативных документов»: «Эта система там не взлетела на общенациональный уровень и решает очень узкие проблемы. Ее первоначальная цель заключалась в том, чтобы собрать в единое место различные рейтинги — финансовый скоринг, достижения на производстве и прочие оценки для составления интегрального показателя. Но разные китайские ведомства и органы исполнительной власти не смогли друг с другом договориться. В итоге социальное рейтингование в КНР существует в разорванном виде, но никто в ус не дует, что у того или иного человека есть какая-то цифра в какой-то базе данных. По этой цифре людей, например, меряют банки — давать тому или иному клиенту кредит или нет».

Система социального кредита SoCS впервые появилась в КНР в начале 2000-х. Как отмечает аналитик Винсент Брусси из Института китаеведения Меркатора, она была создана под влиянием существовавших раньше в других странах практик кредитного скоринга, например FICO в США и Schufa в Германии: «В основных проектах системы не упоминалось о масштабном скоринге физических лиц. Правда, по касательной к ней возникли такие инициативы, как Sesame Credit компании Alibaba, но она имела лишь косвенное отношение к SoCS, и в любом случае Народный банк Китая в итоге отказал компании в выдаче кредитной лицензии. Лишь в конце 2016 года Госсовет — высший правительственный орган Китая — официально заявил, что “изучит возможность создания системы управления баллами личной честности”».

В начале 2010-х в некоторых городах КНР стартовали пилотные проекты по введению скоринга. Брусси привел в качестве примера Суйнин, где у людей снимались баллы за подписание петиций и комментарии в интернете, в Сучжоу планировали штрафовать за неявку в гостиницу или мошенничество в онлайн-играх, а в городе Жунчэн — за мусор или нарушение правил пешеходного движения.

В 2016 году правительство Китая опубликовало перечень санкций, которым должны были подвергаться обладатели низких рейтингов. В их числе, например, были отказ в соцобеспечении, особо тщательный досмотр на таможне, запрет на работу в госучреждениях и занятие руководящих должностей в пищевой и фармацевтической промышленности, отказ в авиабилетах и спальном месте в поездах, в местах в люксовых гостиницах и ресторанах, а также запрет на обучение детей в дорогих частных школах.

Однако, как утверждает Винсент Брусси, многие из первоначальных проектов раскритиковали на официальном уровне. К 2019 году центральные власти Китая объявили, что баллы не могут использоваться для наказания граждан. В итоге в некоторых городах ввели новый порядок, предусматривающий только поощрения по социальному кредиту. Например, в 2023 году в стране открыли первый магазин, где обладателям высокого рейтинга полагаются бесплатные продукты. То есть для определенной категории граждан в КНР почти что наступил коммунизм, где, как известно, «все будет бесплатно» и «все будет в кайф», но Винсент Брусси утверждает: «Это не означает, что SoCS безобиден».

По словам исследователя, у Пекина есть широкий набор более эффективных инструментов для притеснения оппозиции. А социальный рейтинг стал метафорой использования цифровых технологий для подавления общества и нарушения прав человека.

Фото: сцена из спектакля «Мы» «Московского театра музыки и драмы Стаса Намина»