Как ИИ-обзоры Google влияют на демократию в Швейцарии

Инициатива «Против Швейцарии с населением 10 миллионов человек!» была отклонена на референдуме. Gian Ehrenzeller / Keystone

Как показывают научные исследования, в демократическом обществе искусственный интеллект (ИИ) уже способен незаметно участвовать в формировании мнений граждан. Общественная организация AlgorithmWatch CH требует от компаний, разрабатывающих ИИ, большей прозрачности и действенного регулирования.

ИИ на наших глазах существенно меняет то, как люди получают информацию и тем самым он заметно влияет на демократическую дискуссию. «Всё более существенным с точки зрения формирования общественного мнения становится значение так называемых ИИ-обзоров». Такого мнения придерживается научный сотрудник общественной организации AlgorithmWatch CHВнешняя ссылка Коринна Хертвек (Corinna Hertweck). Во время агитационной кампании перед голосованием на референдуме по инициативе «Против Швейцарии с населением в 10 млн человек» («Keine 10-Millionen-Schweiz!») эта структура совместно с Институтом информатики Университета Цюриха (Institut für Informatik der Universität Zürich) проанализировала более 170 тыс. поисковых запросов.

Исследователи проверяли затем, как часто в ответ на такой запрос в поисковых системах Google и Bing появляется автоматически созданный ИИ-обзор и на какие источники он при этом ссылается. В 43% случаев Google выдавал в ответ на запрос именно ИИ-обзор, а не ссылку на ресурс. Около трети использованных в таких обзорах источников были сбалансированными по отношению к инициативе — прежде всего это были журналистские материалы и сайты государственных ведомств. Исследователи также проанализировали, сколько среди всех источников, на которые ссылались ИИ-обзоры, было материалов за инициативу и сколько — против неё.

Выяснилось, что среди использованных источниковВнешняя ссылка было больше материалов с критическим отношением к инициативе. Однако в AlgorithmWatch CH подчёркивают: само по себе это ещё ничего не говорит о том, какой уклон имеет сам ИИ-обзор. Как правило, ИИ-обзор перечисляет аргументы обеих сторон. «Но иногда одной стороне отводится более длинный текст, тогда как позиция другой упоминается лишь вскользь, в придаточном предложении», — объясняет Коринна Хертвек. Пока, однако, речь идёт лишь о наблюдениях. Количественный анализ того, насколько сбалансированы сами ответы, ещё не завершён.

Фрейминг может влиять на процесс формирования мнений

Коринну Хертвек, тем не менее, беспокоит уже одна возможность незаметного воздействия ИИ на процесс формирования общественного мнения. «Миллионы людей пользуются Google и получают такие ИИ-обзоры. Поэтому даже очень тонкий фрейминг уже может повлиять на процесс формирования мнений», — говорит Коринна Хертвек. Цюрихское рекламное агентство Feinheit также изучило работу чат-ботов и ИИ-обзоров во время весьма эмоциональной агитационной кампании вокруг инициативы «Против Швейцарии с населением в 10 млн человек», выдвинутой правой Швейцарской народной партией (Schweizerische Volkspartei, SVP).

Читайте также:

По результатам анализа Feinheit был сделан вывод, что ChatGPT и Google Gemini чаще подчёркивали аргументы противников инициативы. В то же время ИИ-обзоры Google, по оценке агентства, «чаще занимали сторону инициаторов». ИсследователиВнешняя ссылка Мэрилендского университета (University of Maryland) и Вашингтонского университета (University of Washington) показали, что ИИ-обзоры особенно убедительно воздействуют на пользователей, хуже знакомых с обсуждаемой темой или больше доверяющих искусственному интеллекту. Поэтому ИИ-модели, которые часто воспринимаются в качестве нейтральных советчиков и посредников, начинают играть важную роль с точки зрения и швейцарской прямой демократии.

«Когда я задаю Google вопрос, то зачастую в итоге я уже не вижу наверху несколько ссылок, я сразу получаю ответ, сгенерированный искусственным интеллектом, — говорит Коринна Хертвек. — Он звучит убедительно, обладая определённым авторитетом». При этом число так называемых поисковых запросов с нулевым кликом (zero-click searches), когда пользователь получает ответ, не покидает Google и не переходит по ссылкам, увеличивается. «В такой ситуации возникает соблазн относиться к полученной информации менее критически», — говорит Коринна Хертвек.

Чем официальная «красная книжечка» («памятка избирателя») отличается от ИИ-обзора?

Какая информация может считаться нейтральной и в каких случаях? Этот спор давно стал в Швейцарии неотъемлемым элементом демократического дискурса. Иногда такие споры возникают вокруг материалов общественно-правовых СМИ, к которым относится и портал Swissinfo. Не менее остро они ведутся и вокруг так называемой «памятки избирателя» (Abstimmungsbüchlein), которую граждане Швейцарии регулярно получают накануне каждого референдума вместе со всеми остальными материалами для голосования — бюллетенями и голосовательным удостоверением.

Информация в ней должна быть нейтральной, аргументам и мнениям сторонников и противников должно предоставляться равное пространство. Иначе обстоит дело с частной политической рекламой перед голосованием: расходы на неё ничем не ограничены. Поэтому то, насколько заметной окажется та или иная сторона в публичном пространстве, во многом зависит от её бюджета. Но сегодня всё более заметную роль играют ещё и ИИ-обзоры поисковых систем и чат-боты. Этот источник информации незаметно стал участником швейцарского демократического процесса без какого-либо демократического обсуждения.

НКО AlgorithmWatch CH усматривает угрозу разнообразию СМИ

При этом остаётся неизвестным, на какой основе ИИ-обзоры и чат-боты генерируют свои внешне нейтральные и беспристрастные ответы. Поэтому Коринна Хертвек требует «большей прозрачности»: «Общество должно понимать, каким образом создаются ИИ-обзоры». По её словам, концентрация рыночной власти в руках всего нескольких компаний представляет угрозу для разнообразия СМИ и надёжности информации. Коринна Хертвек указывает и на экономическую проблему, которую создаёт распространение «поисковых запросов с нулевым кликом» в Google:

«Если пользователь остаётся в Google, это ослабляет разнообразие СМИ. Медиа не получают переходов на свои сайты, а значит, лишаются монетизации, основы, необходимой для финансирования качественной журналистики». В конечном итоге, предупреждает Коринна Хертвек, могут исчезнуть именно те самые надёжные источники, на которых основываются и сами ИИ-обзоры. Кроме того, по её мнению, такие компании, как Google, должны признать: теперь они уже не просто дают ссылки на чужие материалы, но и сами создают контент в форме ИИ-обзоров.

ИИ может смещать выраженную автором позицию

Искусственный интеллект может влиять не только на содержание публичных сообщений, но и на то, как в обществе формируются и взаимодействуют различные мнения. Исследователи из Оксфордского интернет-института (Oxford Internet Institute), Института Хассо Платтнера (Hasso Plattner Institute) и Института Вайценбаума (Weizenbaum Institute) изучили, что происходит, когда пользователи отдают языковым моделям собственные тексты на редактирование.

Работа AI-mediated communication can steer collective opinion Внешняя ссылкабыла по состоянию на 12 августа 2026 года опубликована в виде препринта на платформе arXiv и принята для представления на двух тематических воркшопах конференции ICML 2026Внешняя ссылка; журнальная публикация пока не указана. Учёные просили несколько языковых моделей «улучшить» тексты по спорным темам, в том числе об абортах, феминизме и изменении климата, сохранив при этом исходный смысл и позицию автора. Даже когда общая позиция не менялась, некоторые модели систематически делали её более или менее выраженной и смещали формулировки в определённую сторону.

Затем исследователи смоделировали социальную сеть, в которой ИИ систематически изменяет выражаемые и воспринимаемые участниками позиции. В такой модели небольшие смещения, возникающие при ИИ-редактировании сообщений, постепенно накапливались и могли заметно менять среднюю позицию участников сети. Однако исследование не проверяло этот эффект на реальных пользователях и не показывает, способен ли он действительно менять их политические взгляды или электоральное поведение.

Профессор Сандра Вахтер (Sandra Wachter) считает, что такие риски необходимо учитывать при правовом регулировании языковых моделей. Европейский закон об искусственном интеллекте (AI Act) предусматривает требования к раскрытию информации о некоторых материалах, созданных при помощи ИИ. Авторы исследования считают маловероятным, что эти требования будут распространяться на обычные публикации частных пользователей в социальных сетях, хотя отдельные правила действуют для ИИ-текстов, предназначенных для информирования общественности по вопросам, имеющим общественную значимость.

Pro-life-смещение в ответах Grok

Отдельно исследователи обнаружили pro-life-смещение в ответах модели Grok на публикации об абортах. При воспроизведении работы функции Explain this post социальной сети X модель чаще поддерживала исходную позицию, когда публикация выступала против абортов, чем когда она поддерживала право на аборт. Авторы исследования поэтому говорят о наличии признаков pro-life bias в ответах Grok на такой контент.

Исследователи также связали это смещение с одной из инструкций в официальном шаблоне промпта функции, предписывавшей языковой модели при необходимости ставить под сомнение самые распространённые представления (мейнстрим). После удаления этой инструкции выявленное pro-life-смещение переставало быть статистически значимым. Исследование, таким образом, показывает наличие конкретного механизма:

ИИ при редактировании человеческой речи может систематически смещать выраженную в ней позицию, а математическое моделирование показывает, что, если такие небольшие смещения многократно возникают при обмене мнениями между участниками сети, то они теоретически могут накапливаться и постепенно сдвигать дискуссию в определённую сторону.

Коринна Хертвек говорит и о «серой зоне» в предварительном проекте нового Федерального закона о коммуникационных платформах и поисковых системах (Bundesgesetz über Kommunikationsplattformen und Suchmaschinen, KomPG). Федеральный совет, кабмин Швейцарии, представил его на общественное обсуждениеВнешняя ссылка осенью 2025 года.

Оно завершилось в феврале 2026 года, а решение о дальнейшей судьбе проекта ожидается до конца текущего года. «В этом законопроекте прямо не прописано регулирование функций на основе генеративного ИИ, хотя с результатами его работы, например, с ИИ-обзорами Google, мы сталкиваемся всё чаще», — говорит Коринна Хертвек.

«Всё происходит с невероятной скоростью»

В НКО AlgorithmWatch CH Коринна Хертвек руководит исследовательским проектом RAISD, который изучает взаимодействие искусственного интеллекта, демократии и общества. В частности, исследователей интересует роль ИИ в формировании мнений отдельных людей — ведь среди пользователей таких систем могут быть и политики.

«Помимо анализа ИИ-обзоров мы хотим, например, также изучить, каким образом чат-боты используются в политике — особенно когда к ним обращаются депутаты или их помощники. Последствия здесь ведь могут быть весьма существенными, особенно если чат-боты активно участвуют в подготовке законопроектов», — говорит Коринна Хертвек.

Исследовательский проект RAISD будет работать до 2028 года. Прогнозировать, каким к тому времени станет генеративный ИИ, Коринна Хертвек не берётся. «Всё происходит с невероятной скоростью. Ясно одно: это серьезный вызов в адрес политики и науки», — резюмирует Коринна Хертвек.

Читайте также:

Перевод с немецкого. Русскоязычная версия под редакцией НК, ИП, АП.