The Swiss voice in the world since 1935
Главные истории
Швейцарская демократия
Информационный бюллетень
Главные истории
Новостная рассылка

В Швейцарии изучают риски социального скоринга

Общество, которое поощряет людей за аккуратную парковку и здоровый образ жизни, некоторым может показаться весьма привлекательным. Но у многих такого рода перспективы вызывают откровенное беспокойство.
Общество, которое поощряет людей за аккуратную парковку и здоровый образ жизни, некоторым может показаться весьма привлекательным. Но у многих такого рода перспективы вызывают откровенное беспокойство. Vera Leysinger / SWI swissinfo.ch

Так называемая «система социального кредитования», реализованная в Китае, давно уже обращает на себя внимание по всему миру. Звучат опасения, что аналогичные подходы могут быть постепенно реализованы и в демократических странах — пусть даже в более «мягкой» форме.

Показать больше

Общество, которое поощряет людей за аккуратную парковку и здоровый образ жизни, некоторым может показаться весьма привлекательным. Но у многих такого рода перспективы вызывают откровенное беспокойство. Система, основанная исключительно на социальных кредитах, рейтингах и бонусах, может со временем начать вытеснять людей с низкими рейтингами на обочину социальной жизни. Сюжеты антиутопического характера, тиражируемые массовой культурой, сделали эту тему особенно заметной и чувствительной.

Появившиеся в фантастических фильмах и книгах термины, от «бонусной системы» до «социального скоринга» и «системы социального кредита», давно уже обосновались на страницах научных монографий политологического и социологического профиля. Многие, тем не менее, все равно опасаются, что государство начнет с опорой на современные цифровые инструменты, поначалу скрытно регулировать поведенческие паттерны людей.

Как говорит Йохан Рошель (Johan Rochel), участник профильного исследовательского проекта, реализуемого на базе Швейцарского Фонда оценки социальных и иных последствий внедрения инновационных технологических решений (Stiftung für Technologiefolgen-Abschätzung TA-SwissВнешняя ссылка), Китай не должен быть в этом смысле ориентиром для западных обществ. Первые результаты исследования будут представлены в 2026 году.

Это система оценки поведения гражданВнешняя ссылка на основе данных об их действиях, привычках и взаимодействии с государственными и частными структурами. Такие системы присваивают людям рейтинговые баллы (кредиты), которые могут влиять на доступ к услугам, льготам, кредитам, рабочим местам или возможностям передвижения.

Наиболее известный пример — система «социального кредитования» в Китае, где используются данные из разных источников (например, банков, полиции, камер видеонаблюдения) для формирования «профиля надёжности» человека или организации. Поведение, соответствующее заданным нормам (например, своевременная оплата счетов), поощряется, а нарушения могут привести к ограничениям (например, запрет на покупку авиабилетов).

Но при этом примечательно, что ещё в 2020 году по прямому заказу Федерального Министерства образования и науки Германии (Bundesministerium für Bildung und Forschung, BMBF) был смоделирован сценарий, согласно которому в 2030-х годах в стране уже появилась и начала работать подобная система личных социальных бонусов. Как предполагалось, такой «механизм мог бы повысить качество жизни за счёт оптимизации госуслуг на основе получаемых больших массивов эмпирических данных и стать для сферы политики инструментом прогнозирования и управления с целью повышения степени эффективности экономики».

А как поведет себя ИИ в роли избирателя?

Показать больше
ИИ действует последовательно, но не разнообразно

Показать больше

Снятся ли большим языковым моделям электронные избиратели?

Этот контент был опубликован на Если бы ИИ мог голосовать — он делал бы это иначе, чем мы. Эксперт ETH Цюриха Джошуа Янг объясняет, как это может изменить демократию.

Читать далее Снятся ли большим языковым моделям электронные избиратели?

Однако, подчёркивается далее немецкими экспертами, в условиях представительной демократии подобные системы необходимо сочетать с механизмами прямого народного участия в принятии политических решений — такими, как референдумы в Швейцарии. В этом сценарии правила игры будут определяться принципами некоей Digital Liquid Democracy («цифровой текучей демократии»). Граждане Германии — при поддержке цифровых помощников — начали бы постоянно анализировать и пересматривать свои практики и формы социального поведения, размышляя о том, какие из них принесут им особенно щедрые бонусные поощрения: хорошие манеры, экологичный образ жизни, отказ от алкоголя? Участвовать в определении правил такой системы должны были бы все в равной степени. Однако были вскрыты также риски и недостатки: тот, кто однажды наберёт меньше баллов, чем его соседи, вряд ли сможет быстро выйти из этого положения — и окажется в числе «постоянно отстающих».

Социальный рейтинг: что запрещает ЕС и узаконивает Китай

С момента публикации этого сценария в 2020 году вероятность реального внедрения системы социальных бонусов в ЕС в целом снизилась. В 2024 году Европейский союз запретил использование алгоритмов искусственного интеллекта для целей социального скоринга. В Швейцарии, однако, такого законодательства пока нет. Синолог Адам Найт (Adam Knight) из Лейденского университета (Нидерланды) приветствует этот запрет: по его словам, он ясно показывает, что система социального кредитования несовместима с основными социальными и этическими ценностями Европы.

Власти Китая начали систематически интегрировать кредитные механизмы в национальное законодательство.
Власти Китая начали систематически интегрировать кредитные механизмы в национальное законодательство. Copyright 2023 The Associated Press. All Rights Reserved

С точки зрения Евросоюза такие системы сводят человека лишь к алгоритмически сформированному профилю, а значит они подрывают право на частную жизнь, противоречат принципу всеобщего равенства перед законом и ставят под вопрос традиционные правовые основы соблюдения базовых процессуальных норм. Причём, подчёркивает Адам Найт, опасаться следует не только тотального надзора, но и «автоматизированной дискриминации». В Китае же система социального кредитования за последние годы перешла от экспериментальных проектов к процессу национальной стандартизации и повседневного административного внедрения соответствующих инструментов.

Как поясняет Адам Найт, 2022 год стал в этом отношении поворотным моментом: именно тогда власти Китая начали систематически интегрировать кредитные механизмы в национальное законодательство. Сегодня положения о «социальном кредите человека» содержатся уже более чем в полусотне правовых актов, а так называемые «чёрные списки» играют роль ключевого инструмента, хотя недавно в эту систему были добавлены элементы поощрения и реабилитации: появилась возможность «восстановления своей кредитной репутации». Ряд пилотных проектов — например, по сбору данных о потреблении алкоголя или о физической активности людей — был, по словам Адама Найта, «тихо закрыт». На смену моральной дисциплине пришла прагматика: в центре внимания теперь стоит в Китае не воспитание, а экономика.

С точки зрения Евросоюза такие системы сводят человека лишь к алгоритмически сформированному профилю.
С точки зрения Евросоюза такие системы сводят человека лишь к алгоритмически сформированному профилю. SWI swissinfo.ch

Вместо единой кредитной оценки в Китае создаётся «инфраструктура принуждения», в рамках которой из множества данных о правонарушениях формируется разветвлённая система «красных флажков». Такие отметки могут ограничивать доступ к финансовым кредитам, к рабочим местам или к государственным услугам. «В итоге у государства появляется мощный инструмент управления, основанный на больших объемах данных, — поясняет Адам Найт. — Если ты нарушаешь правила, то ты невольно оставляешь соответствующий цифровой след». Однако, по его словам, элементы алгоритмического профилирования личности существуют и в странах ЕС.

Поэтому упомянутый запрет Евросоюза на использование алгоритмов искусственного интеллекта для целей социального скоринга, выводит нас на более широкий вопрос: как следует обращаться с такими механизмами? «Логика на основе таких принципов, как „вознаграждение за доверие и наказание за риск“, характерна и для Запада, вспомним цифровые платформы вроде AirBnB, Uber или Yelp, а также кредитные учреждения, когда личные оценки и рейтинги имеют для того или иного человека весьма ощутимые последствия. В Швейцарии, к примеру, реестр должников открыто публикует информацию о людях, не оплативших штрафы или счета».

Как распознать социальный скоринг в демократическом обществе

В Швейцарии запись в реестре должников (Betreibungsregister) может стать препятствием при аренде жилья или при устройстве на работу, не говоря уже о получении гражданства, так что такие меры порой трудно отличить от «черных списков» в рамках китайской системы социального кредитования. Однако, как подчеркивает синолог Адам Найт, ключевой вопрос заключается не в том, идентична ли эта практика китайской модели, а в том, каким образом такие личностные профили влияют на доступ к госуслугам — и какие существуют механизмы защиты прав личности.

Читайте также:

Показать больше
Швейцарская Конституция гарантирует личную физическую и психическую неприкосновенность. Появится ли у нас и третья форма этой неприкосновенности — цифровая? Женева, 2024 год.

Показать больше

Как швейцарский федерализм способствует становлению нового цифрового права

Этот контент был опубликован на Два швейцарских кантона закрепили в своих конституциях нормы, защищающие права человека в их цифровом формате.

Читать далее Как швейцарский федерализм способствует становлению нового цифрового права

Но как распознать элементы социального скоринга? По словам швейцарского эксперта Йохана Рошеля (Johan Rochel), «главная сложность состоит в том, чтобы вообще распознать социальный скоринг как таковой». Именно этому и посвящён упомянутый проект фонда TA-Swiss: он должен помочь обществу выработать определение и критерии для выявления подобных систем и социальных практик. «В директивах ЕС по регулированию искусственного интеллекта социальный скоринг относится к запрещённым формам применения потенциала цифровых инструментов, — поясняет Йохан Рошель. — Но до сих пор не существует чёткого определения того, что именно подпадает под этот запрет». Юрист и философ, он уверен, что ясность наступит лишь по мере появления прецедентных судебных решений. При этом он ожидает, что государственные органы и частный сектор экономики и в будущем зачастую не будут способны точно понимать, используют ли они систему социального скоринга или что-то иное.

В Швейцарии запись в Долговом реестре (Betreibungsregister) может стать серьезным препятствием, мешающим получить финансовый кредит, не говоря уже о гражданстве. Keystone / Christian Beutler
В Швейцарии запись в Долговом реестре (Betreibungsregister) может стать серьезным препятствием, мешающим получить финансовый кредит, не говоря уже о гражданстве. Keystone / Christian Beutler

Особенно его тревожит отсутствие широкой общественной дискуссии и ползучее внедрение подобных технологий «на основе логики пилотных проектов». Наиболее проблематичны, по его мнению, области, связанные с общественными интересами. Один из примеров — программа, которая позволяла школьным учителям анонимно сообщатьВнешняя ссылка «куда следует» об учениках, заподозренных в симпатиях к террористам. В Швейцарии этот сюжет стал причиной настоящего скандала, сегодня веб-сайт проекта закрыт, однако похожие тревожные примеры появляются и в других сферах — таких, как транспорт, экология или здравоохранение.

Например, в ходе предвыборной кампании 2024 года нынешний Федеральный канцлер Германии Фридрих Мерц предложил предоставлять скидку на медицинскую страховку всем, кто согласится передавать свои медицинские данные в распоряжение науки. Таким гражданам страховой тариф должен был быть снижен на 10%. По словам Йохана Рошеля, подобные инициативы кажутся на первый взгляд безобидными, в первую очередь из-за их формальной добровольности. Но именно эта добровольность, говорит он, и делает их особенно опасными: она маскирует политическое давление и закладывает основу для нового социального неравенства.

Риски мягкого принуждения

Но когда социальная или финансовая цена отказа от участия в такого рода проектах оказывается слишком высокой, то такое предложение де-факто становится обязательным. Именно так и было интерпретировано упомянутое предложение Фридриха Мерца в начале 2025 года. Эта инициатива спровоцировала волну критики и оживлённую дискуссию, даже в Швейцарии, где она стала темой парламентских дебатов.

Уже в 2020 году депутат Национального совета (большой палаты парламента) от правой Швейцарской народной партии (SVP) Томас Бургхерр (Thomas Burgherr) направил в Федеральный совет (правительство) запрос: как кабмин оценивает такие «поведенческие стимулы» и другие «психологические приёмы» с точки зрения принципов демократии и верховенства права? В своём ответе Федеральный совет дал понять, что рассматривает так называемые «подталкивания» (nudges) как возможную альтернативу запретам и признаёт, что методы бихевиористской (поведенческой) экономики (behavioral economicsВнешняя ссылка) могут играть в ряде сфер важную роль.

Между тем сами авторы упомянутого немецкого футурологического сценария, опубликованного в 2020 году, сегодня оценивают эффективность подобных систем куда более скептически. Как говорит эксперт и один из авторов этого сценария Михаэль Астор (Michael Astor), изначально идея совмещения бонусной системы с элементами прямой демократии опиралась на три аргумента: защита от злоупотреблений, снижение риска социальной поляризации и адаптация социума к «изменяющимся общественным запросам».

Однако сегодня, по его, он смотрит на всё это иначе: «С учётом правого дрейфа многих демократий в обществе усиливается скепсис в отношении популистских, расистских или других идеологически мотивированных форм социального контроля, которые могут внедряться через такие системы». Тем самым изначально задуманный позитивный эффект, опирающийся на инструменты прямого участия народа в политике, остается пока скорее элементом футурологии, нежели становится рациональным инструментом совершенствования окружающей нас социальной реальности.

Русскоязычная оригинальная версия материала создана, адаптирована для целевой аудитории и научно отредактирована русскоязычной редакцией SWI / ип / нк / ап.

Читайте также по теме:

Показать больше
В демократических странах увеличивается тревога в связи с тем, что крупные социальные платформы и искусственный интеллект (ИИ) все чаще способствуют распространению дезинформации.

Показать больше

«Если у вас нет смартфона», или Почему многие не хотят быть онлайн?

Этот контент был опубликован на Спустя почти 20 лет после появления первого iPhone многие люди сознательно отказываются от плодов цифрового просвещения.

Читать далее «Если у вас нет смартфона», или Почему многие не хотят быть онлайн?
Показать больше
Наша рассылка на тему демократии

Показать больше

Наша рассылка на тему демократии

Если ты сторонник демократии, то правильно, что ты пришел именно к нам. Мы сообщаем о последних событиях, о дебатах и проблемах – оставайся с нами.

Читать далее Наша рассылка на тему демократии

Выбор читателей

Самое обсуждаемое

В соответствии со стандартами JTI

Показать больше: Сертификат по нормам JTI для портала SWI swissinfo.ch

Обзор текущих дебатов с нашими журналистами можно найти здесь. Пожалуйста, присоединяйтесь к нам!

Если вы хотите начать разговор на тему, поднятую в этой статье, или хотите сообщить о фактических ошибках, напишите нам по адресу russian@swissinfo.ch.

swissinfo.ch - подразделение Швейцарской национальной теле- и радиокомпании SRG SSR

swissinfo.ch - подразделение Швейцарской национальной теле- и радиокомпании SRG SSR