Снятся ли большим языковым моделям электронные избиратели?

В ходе эксперимента большие языковые модели продемонстрировали по сравнению с людьми более однородное поведение. László D. / Unsplash

Если бы языковые модели вроде Chat-GPT получили избирательные права, то их политический выбор отличался бы от выбора реальных граждан. К такому выводу пришли исследователи из Цюриха, проанализировав поведение больших языковых моделей в теоретической электоральной ситуации.

Согласно данным эксперимента (PDFВнешняя ссылка), модели ИИ в большинстве случаев отдавали предпочтение кандидатам от традиционных партий «мейнстрима», и так широко представленных в парламенте. Поведение Chat-GPT оказалось заметно более единообразным и рациональным, чем поведение людей, участвовавших в аналогичном опросе. По мнению эксперта ETH Джошуа Янга (Joshua Young), эти результаты дают повод задуматься: цифровые алгоритмы начинают не только отражать политические предпочтения общества, но и формировать новые модели принятия решений.

Как команда Computational Social Science ETH это выяснила?

Так называемые большие языковые модели (BLM) изначально запрограммированы уклоняться от прямых ответов на политические вопросы. Когда, например, Chat-GPT спрашивали, за кого голосовать — за Дональда Трампа или Камалу Харрис — чат-бот отвечал, что он нейтрален, и не давал прямого ответа. Об этом SWI swissinfo.ch рассказал Джошуа Янг, член команды лаборатории Computational Social Science ETH Zürich и участник проектов Kultur Komitee Winterthur, Stadtidee Aarau и vTaiwan. Понимая ограничения таких моделей, исследовательская группа ETH не стала задавать ИИ вопросы о «большой политике».

Джошуа Янг (Joshua Yang). zVg

Ему было предложено оценить 24 локальных проекта городского развития, внешне лишённых политической окраски. В их числе — реконструкция пешеходной зоны на улице Langstrasse, мультикультурный фестиваль на площади Sechseläutenplatz и детский праздник в парке Leutschenpark, — все в Цюрихе. Какие из этих проектов ИИ счёл бы наиболее ценными для улучшения городской среды? Ответы Chat-GPT и других моделей были сопоставлены с результатами опроса примерно 180 человек, участвовавших в аналогичном эксперименте.

Как ИИ, так и люди принимали решения в несколько раундов на основе разных условий: в одних случаях нужно было распределить баллы, в других — выбрать любое количество проектов. Также использовалась система ранжированного голосования (ranked-choice voting). Результаты исследования можно применять, прежде всего, в контексте механизмов распределения бюджета с участием населения, а также выборов с несколькими победителями — например, при пропорциональном представительстве, когда партии направляют кандидатов в парламент в соответствии с набранными голосами на основе партийных списков.

ИИ действует последовательно, но не разнообразно

Как показало исследование, модели ИИ склонны к стабильному и однотипному выбору: Chat-GPT почти всегда выбирал четыре или пять проектов, тогда как участники-люди демонстрировали гораздо более широкий разброс. Это подтверждает вывод о том, что синтетические выборки, созданные с помощью ИИ, демонстрируют смещение в сторону так называемого WEIRD-профиля (западный, образованный, индустриализованный, богатый, демократический избиратель) и часто не проявляют значительного разнообразия в суждениях. Кроме того, модели оказались чувствительны даже к порядку следования пунктов в списке — этот, казалось бы, нейтральный фактор существенно влиял на итоговый выбор.

По мнению эксперта ETH Джошуа Янга (Joshua Young), эти результаты дают повод задуматься: цифровые алгоритмы начинают не только отражать политические предпочтения общества, но и формировать новые модели принятия решений. SWI

Это лишний раз подчёркивает ограниченность ИИ в способности к принятию независимых решений: представим ситуацию, в которой избиратель выбирает иную партию просто потому, что она была бы указана вверху, а не внизу бюллетеня. Тем не менее ИИ чаще отдавал предпочтение проектам, которые в ретроспективе оказывались более экономически обоснованными. Исследование подчёркивает тем самым: реальным избирателям при принятии решений зачастую не хватает понимания структуры соотношения затрат и выгод. В аналитической части исследования команда ETH ссылается на идеи политолога Сезара Идальго (César Hidalgo) о цифровых двойниках — ИИ-агентах, способных в будущем выступать в роли политических помощников и аналитиков. Подробнее о том, что это такое, читайте в материале ниже.

Доклад Джошуа Янга, представленный на конференции по ИИ, этике и обществу в Сан-Хосе (Калифорния), звучит как предостережение. Он и его коллеги-исследователи подчёркивают: антропоцентричный подход — необходимое условие обеспечения конструктивного влияния ИИ на политику. Такие технологии должны усиливать, а не подрывать коллективный интеллект, основанный на разнообразии человеческих предпочтений. В этом контексте предлагается использовать языковые модели в рамках концепции «человек в контуре управления» (Human in the loop).

Принцип HITL предполагает, что ключевые решения в системах с участием ИИ всегда проходят через человека, который выступает контролёром, редактором или финальным арбитром. То есть ИИ должен не заменять человека, а помогать ему принимать решения, обрабатывать, систематизировать и пояснять информацию. «Нас интересовало, как языковые модели могут влиять на демократию в её привычной форме, — говорит Джошуа Янг. — Уже сегодня многие люди со своими вопросами обращаются сразу к Chat-GPT. Этот чат-бот предоставляет информацию и тем самым влияет на их политические решения».

Возникает и другой важный вопрос — как именно ИИ использует личные данные. «Какие сведения мы загружаем в ИИ, когда просим его встать на место конкретного человека?» — продолжает Янг. В теории это могут быть конфиденциальные характеристики — цвет кожи, религия, а также, например, расшифровки личных разговоров. Однако таких цифровых «собеседников» можно формировать и на другой основе, например, на основе итогов опросов общественного мнения, как это делает, например, швейцарская платформа Smartvote. Именно такой подход и был применён в упомянутом эксперименте ETH.

Более 77% работников в Швейцарии применяют искусственный интеллект в профессиональной деятельности — чаще, чем в любой другой стране. Keystone-SDA

По словам Джошуа Янга, он может быть не менее эффективен, но при этом он не нарушает приватность. Учёный надеется, что в этой области скоро появятся чёткие этические и правовые рамки и будет инициирована широкая общественная дискуссия о границе между функциональностью и личной жизнью.

Сдержанный энтузиазм

Несмотря на критический фокус исследования, сам Дж. Янг демонстрирует сдержанный энтузиазм: «Я осторожный оптимист. Думаю, у ИИ есть потенциал для укрепления демократии. Он может помочь людям принимать более обоснованные и частые решения, не лишая их свободы выбора». Швейцария с её частыми референдумами, по мнению Янга, идеальная страна для тестирования таких технологий. ИИ-модели особенно эффективны в контекстах, где возможен рациональный подход, например, в голосованиях по конкретным вопросам, а не в эмоционально окрашенных выборах.

Особенно интересной областью применения ИИ могут стать местные голосования, где наблюдается низкая явка. Возможен, например, формат цифровой брошюры для голосования, аналога знаменитой швейцарской «красной книжечки», с которой избиратель может не только знакомиться, но и взаимодействовать в диалоговом режиме. Такой инструмент мог бы мотивировать тех, кто обычно не участвует в выборах, ссылаясь на нехватку информации. «Если для выполнения задачи создаётся специализированный ИИ-агент (комплексный программный модуль с доступом ко всем необходимым данным), то риск ошибок и распространения ложной информации значительно снижается, — объясняет Дж. Янг. — Модели ведь „галлюцинируют“ тогда, когда не имеют доступа к проверенным фактам».

Ведь в отличие от таких «агентов» большие языковые модели вроде Chat-GPT опираются как на релевантные, так и на недостоверные источники, и потому они не всегда надёжны — особенно в ситуациях, требующих точных, верифицируемых решений. Тем не менее, по мнению Дж. Янга, ИИ способен стать важным ресурсом как для прямой, так и для представительной демократии. На первом этапе ИИ-агенты будут использоваться отдельными политиками и общественными группами для анализа дебатов, подготовки аргументов, выработки компромиссов и вариантов действий. Со временем «агенты» могут стать частью политических институтов в качестве вспомогательных инструментов, способных облегчить навигацию в сложных демократических процессах.

Русскоязычная оригинальная версия материала подготовлена, адаптирована для целевой аудитории, выверена и научно отредактирована русскоязычной редакцией SWI / ип / нк / ап.

Что пишут швейцарские СМИ о постсоветском пространстве? Читайте свежий обзор!