
В Швейцарии изучают риски социального скоринга

Так называемая «система социального кредитования», реализованная в Китае, давно уже обращает на себя внимание по всему миру. Звучат опасения, что аналогичные подходы могут быть постепенно реализованы и в демократических странах — пусть даже в более «мягкой» форме.

Показать больше
Хотите читать швейцарские СМИ с нами? Подпишитесь на рассылку
Общество, которое поощряет людей за аккуратную парковку и здоровый образ жизни, некоторым может показаться весьма привлекательным. Но у многих такого рода перспективы вызывают откровенное беспокойство. Система, основанная исключительно на социальных кредитах, рейтингах и бонусах, может со временем начать вытеснять людей с низкими рейтингами на обочину социальной жизни. Сюжеты антиутопического характера, тиражируемые массовой культурой, сделали эту тему особенно заметной и чувствительной.
Появившиеся в фантастических фильмах и книгах термины, от «бонусной системы» до «социального скоринга» и «системы социального кредита», давно уже обосновались на страницах научных монографий политологического и социологического профиля. Многие, тем не менее, все равно опасаются, что государство начнет с опорой на современные цифровые инструменты, поначалу скрытно регулировать поведенческие паттерны людей.
Как говорит Йохан Рошель (Johan Rochel), участник профильного исследовательского проекта, реализуемого на базе Швейцарского Фонда оценки социальных и иных последствий внедрения инновационных технологических решений (Stiftung für Technologiefolgen-Abschätzung TA-SwissВнешняя ссылка), Китай не должен быть в этом смысле ориентиром для западных обществ. Первые результаты исследования будут представлены в 2026 году.
Это система оценки поведения гражданВнешняя ссылка на основе данных об их действиях, привычках и взаимодействии с государственными и частными структурами. Такие системы присваивают людям рейтинговые баллы (кредиты), которые могут влиять на доступ к услугам, льготам, кредитам, рабочим местам или возможностям передвижения.
Наиболее известный пример — система «социального кредитования» в Китае, где используются данные из разных источников (например, банков, полиции, камер видеонаблюдения) для формирования «профиля надёжности» человека или организации. Поведение, соответствующее заданным нормам (например, своевременная оплата счетов), поощряется, а нарушения могут привести к ограничениям (например, запрет на покупку авиабилетов).
Но при этом примечательно, что ещё в 2020 году по прямому заказу Федерального Министерства образования и науки Германии (Bundesministerium für Bildung und Forschung, BMBF) был смоделирован сценарий, согласно которому в 2030-х годах в стране уже появилась и начала работать подобная система личных социальных бонусов. Как предполагалось, такой «механизм мог бы повысить качество жизни за счёт оптимизации госуслуг на основе получаемых больших массивов эмпирических данных и стать для сферы политики инструментом прогнозирования и управления с целью повышения степени эффективности экономики».
А как поведет себя ИИ в роли избирателя?

Показать больше
Снятся ли большим языковым моделям электронные избиратели?
Однако, подчёркивается далее немецкими экспертами, в условиях представительной демократии подобные системы необходимо сочетать с механизмами прямого народного участия в принятии политических решений — такими, как референдумы в Швейцарии. В этом сценарии правила игры будут определяться принципами некоей Digital Liquid Democracy («цифровой текучей демократии»). Граждане Германии — при поддержке цифровых помощников — начали бы постоянно анализировать и пересматривать свои практики и формы социального поведения, размышляя о том, какие из них принесут им особенно щедрые бонусные поощрения: хорошие манеры, экологичный образ жизни, отказ от алкоголя? Участвовать в определении правил такой системы должны были бы все в равной степени. Однако были вскрыты также риски и недостатки: тот, кто однажды наберёт меньше баллов, чем его соседи, вряд ли сможет быстро выйти из этого положения — и окажется в числе «постоянно отстающих».
Социальный рейтинг: что запрещает ЕС и узаконивает Китай
С момента публикации этого сценария в 2020 году вероятность реального внедрения системы социальных бонусов в ЕС в целом снизилась. В 2024 году Европейский союз запретил использование алгоритмов искусственного интеллекта для целей социального скоринга. В Швейцарии, однако, такого законодательства пока нет. Синолог Адам Найт (Adam Knight) из Лейденского университета (Нидерланды) приветствует этот запрет: по его словам, он ясно показывает, что система социального кредитования несовместима с основными социальными и этическими ценностями Европы.

С точки зрения Евросоюза такие системы сводят человека лишь к алгоритмически сформированному профилю, а значит они подрывают право на частную жизнь, противоречат принципу всеобщего равенства перед законом и ставят под вопрос традиционные правовые основы соблюдения базовых процессуальных норм. Причём, подчёркивает Адам Найт, опасаться следует не только тотального надзора, но и «автоматизированной дискриминации». В Китае же система социального кредитования за последние годы перешла от экспериментальных проектов к процессу национальной стандартизации и повседневного административного внедрения соответствующих инструментов.
Как поясняет Адам Найт, 2022 год стал в этом отношении поворотным моментом: именно тогда власти Китая начали систематически интегрировать кредитные механизмы в национальное законодательство. Сегодня положения о «социальном кредите человека» содержатся уже более чем в полусотне правовых актов, а так называемые «чёрные списки» играют роль ключевого инструмента, хотя недавно в эту систему были добавлены элементы поощрения и реабилитации: появилась возможность «восстановления своей кредитной репутации». Ряд пилотных проектов — например, по сбору данных о потреблении алкоголя или о физической активности людей — был, по словам Адама Найта, «тихо закрыт». На смену моральной дисциплине пришла прагматика: в центре внимания теперь стоит в Китае не воспитание, а экономика.

Вместо единой кредитной оценки в Китае создаётся «инфраструктура принуждения», в рамках которой из множества данных о правонарушениях формируется разветвлённая система «красных флажков». Такие отметки могут ограничивать доступ к финансовым кредитам, к рабочим местам или к государственным услугам. «В итоге у государства появляется мощный инструмент управления, основанный на больших объемах данных, — поясняет Адам Найт. — Если ты нарушаешь правила, то ты невольно оставляешь соответствующий цифровой след». Однако, по его словам, элементы алгоритмического профилирования личности существуют и в странах ЕС.
Поэтому упомянутый запрет Евросоюза на использование алгоритмов искусственного интеллекта для целей социального скоринга, выводит нас на более широкий вопрос: как следует обращаться с такими механизмами? «Логика на основе таких принципов, как „вознаграждение за доверие и наказание за риск“, характерна и для Запада, вспомним цифровые платформы вроде AirBnB, Uber или Yelp, а также кредитные учреждения, когда личные оценки и рейтинги имеют для того или иного человека весьма ощутимые последствия. В Швейцарии, к примеру, реестр должников открыто публикует информацию о людях, не оплативших штрафы или счета».
Как распознать социальный скоринг в демократическом обществе
В Швейцарии запись в реестре должников (Betreibungsregister) может стать препятствием при аренде жилья или при устройстве на работу, не говоря уже о получении гражданства, так что такие меры порой трудно отличить от «черных списков» в рамках китайской системы социального кредитования. Однако, как подчеркивает синолог Адам Найт, ключевой вопрос заключается не в том, идентична ли эта практика китайской модели, а в том, каким образом такие личностные профили влияют на доступ к госуслугам — и какие существуют механизмы защиты прав личности.
Читайте также:

Показать больше
Как швейцарский федерализм способствует становлению нового цифрового права
Но как распознать элементы социального скоринга? По словам швейцарского эксперта Йохана Рошеля (Johan Rochel), «главная сложность состоит в том, чтобы вообще распознать социальный скоринг как таковой». Именно этому и посвящён упомянутый проект фонда TA-Swiss: он должен помочь обществу выработать определение и критерии для выявления подобных систем и социальных практик. «В директивах ЕС по регулированию искусственного интеллекта социальный скоринг относится к запрещённым формам применения потенциала цифровых инструментов, — поясняет Йохан Рошель. — Но до сих пор не существует чёткого определения того, что именно подпадает под этот запрет». Юрист и философ, он уверен, что ясность наступит лишь по мере появления прецедентных судебных решений. При этом он ожидает, что государственные органы и частный сектор экономики и в будущем зачастую не будут способны точно понимать, используют ли они систему социального скоринга или что-то иное.

Особенно его тревожит отсутствие широкой общественной дискуссии и ползучее внедрение подобных технологий «на основе логики пилотных проектов». Наиболее проблематичны, по его мнению, области, связанные с общественными интересами. Один из примеров — программа, которая позволяла школьным учителям анонимно сообщатьВнешняя ссылка «куда следует» об учениках, заподозренных в симпатиях к террористам. В Швейцарии этот сюжет стал причиной настоящего скандала, сегодня веб-сайт проекта закрыт, однако похожие тревожные примеры появляются и в других сферах — таких, как транспорт, экология или здравоохранение.
Например, в ходе предвыборной кампании 2024 года нынешний Федеральный канцлер Германии Фридрих Мерц предложил предоставлять скидку на медицинскую страховку всем, кто согласится передавать свои медицинские данные в распоряжение науки. Таким гражданам страховой тариф должен был быть снижен на 10%. По словам Йохана Рошеля, подобные инициативы кажутся на первый взгляд безобидными, в первую очередь из-за их формальной добровольности. Но именно эта добровольность, говорит он, и делает их особенно опасными: она маскирует политическое давление и закладывает основу для нового социального неравенства.
Риски мягкого принуждения
Но когда социальная или финансовая цена отказа от участия в такого рода проектах оказывается слишком высокой, то такое предложение де-факто становится обязательным. Именно так и было интерпретировано упомянутое предложение Фридриха Мерца в начале 2025 года. Эта инициатива спровоцировала волну критики и оживлённую дискуссию, даже в Швейцарии, где она стала темой парламентских дебатов.
Уже в 2020 году депутат Национального совета (большой палаты парламента) от правой Швейцарской народной партии (SVP) Томас Бургхерр (Thomas Burgherr) направил в Федеральный совет (правительство) запрос: как кабмин оценивает такие «поведенческие стимулы» и другие «психологические приёмы» с точки зрения принципов демократии и верховенства права? В своём ответе Федеральный совет дал понять, что рассматривает так называемые «подталкивания» (nudges) как возможную альтернативу запретам и признаёт, что методы бихевиористской (поведенческой) экономики (behavioral economicsВнешняя ссылка) могут играть в ряде сфер важную роль.
Между тем сами авторы упомянутого немецкого футурологического сценария, опубликованного в 2020 году, сегодня оценивают эффективность подобных систем куда более скептически. Как говорит эксперт и один из авторов этого сценария Михаэль Астор (Michael Astor), изначально идея совмещения бонусной системы с элементами прямой демократии опиралась на три аргумента: защита от злоупотреблений, снижение риска социальной поляризации и адаптация социума к «изменяющимся общественным запросам».
Однако сегодня, по его, он смотрит на всё это иначе: «С учётом правого дрейфа многих демократий в обществе усиливается скепсис в отношении популистских, расистских или других идеологически мотивированных форм социального контроля, которые могут внедряться через такие системы». Тем самым изначально задуманный позитивный эффект, опирающийся на инструменты прямого участия народа в политике, остается пока скорее элементом футурологии, нежели становится рациональным инструментом совершенствования окружающей нас социальной реальности.
Русскоязычная оригинальная версия материала создана, адаптирована для целевой аудитории и научно отредактирована русскоязычной редакцией SWI / ип / нк / ап.
Читайте также по теме:

Показать больше
«Если у вас нет смартфона», или Почему многие не хотят быть онлайн?

Показать больше
Наша рассылка на тему демократии

В соответствии со стандартами JTI
Показать больше: Сертификат по нормам JTI для портала SWI swissinfo.ch
Обзор текущих дебатов с нашими журналистами можно найти здесь. Пожалуйста, присоединяйтесь к нам!
Если вы хотите начать разговор на тему, поднятую в этой статье, или хотите сообщить о фактических ошибках, напишите нам по адресу russian@swissinfo.ch.