Как швейцарский проект на платформе Reddit превратился в скандал

Учёные столкнулись с классической дилеммой, знакомой многим исследователям в сфере социальных наук. Keystone

Речь идёт об эксперименте, проведённом исследовательской группой, связанной с Цюрихским университетом. Учёные с помощью искусственного интеллекта создавали фейковые мнения и публиковали их под вымышленными именами в дискуссионной группе на платформе Reddit r/changemyview. Целью было проверить, насколько ИИ может влиять на общественное мнение.

При этом пользователи не знали, что общаются с ботами и участвуют в научном эксперименте. На протяжении нескольких месяцев исследователи последовательно расширяли его масштабы, генерируя при помощи ИИ аргументы по самым разным темам: от владения опасными собаками и удорожания аренды жилья до ближневосточной проблематики и программ по так называемым «инклюзии и разнообразию». Лишь после завершения проекта команда учёных призналась в обмане, что вызвало резкую критику в их адрес.

«Познание только тогда истинно, когда оно опирается на нравственность!»

Их обвинили в нарушении как правил сообщества Reddit, так и базовых принципов научной этики, ведь участники дискуссий не знали, что они дискутируют с машинами, а не с реальными людьми, став частью научного эксперимента. Инициаторы проекта, пожелавшие сохранить анонимность из опасений возможного юридического преследования, утверждали в свою защиту, что действовали исходя из огромной общественной значимости темы и что именно эта значимость сделала необходимым проведение подобного исследования — даже если это означало нарушение правил платформы, запрещающих использование ИИ-ботов.

Позже они всё же выступили с «искренними извинениями», отметив: «Реакция разочарования и недовольства заставила нас пожалеть о возможных неудобствах, вызванных исследованием». «Речь здесь идёт не только о проведении исследования с применением обманных методов, — подчеркивает Доминик Спрюмон (Dominique Sprumont), президент Кантональной (кантон Во) комиссии по этике научных исследований. — Это вопрос сознательного нарушения правил сообщества, причём там, где доверие опирается именно на веру участников сообщества в соблюдение этих правил. Кроме того, сама научная состоятельность проекта вызывает серьёзные сомнения. Безнравственная наука — это уже сама по себе плохая наука».

Допустим ли обман?

Тем самым учёные столкнулись с классической дилеммой, знакомой многим исследователям в сфере социальных наук: как добиться естественного поведения участников, не раскрывая полностью цели эксперимента, и при этом не перейти грань допустимого? С подобной проблемой уже сталкивались и другие ученые, занимающиеся изучением так называемых социальных паттернов (рутинных привычек повседневности).

Читайте также:

Так, например, Джиллиан Мерфи (Gillian Murphy) и Саэра Грин (Ciara Greene) из Университетского колледжа Корка (University College Cork, ирландский национальный университет) и Университетского колледжа Дублина (University College Dublin), которые провели собственные подобные с акцентом на изучение дезинформации как социального феномена, писали в статье, опубликованной в журнале ScienceDirect в 2023 году, что в ряде случаев исследователи сознательно скрывают реальную цель эксперимента, раскрывая её участникам только по его завершении.

Например, в начале они могли заявлять, что проект направлен на общее изучение потребления новостного контента, а не собственно на изучение роли и структуры общественного восприятия дезинформации. «В некоторых исследованиях, не прибегая к такому маскараду, просто невозможно достоверно выявить и проанализировать естественную реакцию участников, — отмечают ученые. — Если заранее сообщить, например, об эксперименте, уточнив, что в исследовании будет использоваться потенциально вводящая в заблуждение информация, то это сразу повлияет на мотивацию, восприятие и поведение участников».

А также по теме:

Так или иначе, по информации Цюрихского университета, автор идеи такого эксперимента на платформе Reddit покинул университет ещё в сентябре 2024 года и начал работу над ним уже потом. Поэтому, как заявили в университете, ответственность за реализацию проекта и публикацию его результатов целиком лежит на самих исследователях: «На момент проведения эксперимента на платформе Reddit в нём не участвовали ни профессора, ни студенты Цюрихского университета». Первоначальные результаты исследования были опубликованы, но впоследствии удалены из публичного доступа.

Последствия для университета

Специальная уполномоченная кантона Цюрих по защите данных Доминика Блонски (Dominika Blonski) пока не начала официального расследования, но подтвердила, что её ведомство о случившемся осведомлено. «Мы не знаем, было ли это исследование организовано Цюрихским университетом или его факультетом либо же отдельными исследователями по собственной инициативе», — заявила она в интервью порталу SWI swissinfo.ch.

В настоящее время ещё только предстоит выяснить, следует ли инициировать проверку в отношении университета как учебно-образовательного учреждения или же проверять конкретных физических лиц. При этом Доминика Блонски выразила обеспокоенность сообщениями в СМИ о возможных нарушениях закона о защите персональных данных. Цюрихскому университету также предстоит ответить на официальные юридические запросы со стороны администрации платформы Reddit.

«В свете этих событий Комитет по этике факультета искусств и социальных наук Цюрихского университета намерен в будущем внедрить более строгие процедуры согласования проектов и, в частности, координировать подобные проекты с администрацией онлайн-сообществ заранее, причем ещё до начала проведения экспериментальных исследований», — сообщила представитель университета.

Между тем авторы и других публикаций подчёркивают, что даже в социальной науке, где нередко допускаются такие элементы маскарада ради научной достоверности, есть чёткие моральные границы. Учёные обязаны уважать права человека и частную жизнь участников, заранее информировать их об участии в исследовании, получать осознанное согласие на использование персональных данных и принимать меры для предотвращения потенциального вреда.

Подобные дебаты уже возникали в прошлом. В 2014 году компания Facebook подверглась острой критике со стороны учёных, юристов и политиков за скрытое манипулирование лентами новостей десятков тысяч пользователей. Целью было выяснить, как эмоциональное состояние пользователей зависит от преобладания позитивных или негативных постов в ленте. Несмотря на последующие оправдания (речь также шла о «научной значимости»), сама компания позднее признала, что эксперимент был проведён с нарушениями этических норм.

Швейцарское исследование на Reddit подверглось аналогичной критике: участников не уведомили о том, что они стали частью научного проекта, а сам эксперимент вызвал многочисленные вопросы — в том числе о том, кто несёт за него юридическую и моральную ответственность.

Уточним, что проект был предложен тогдашним сотрудником Цюрихского университета и в апреле 2024 года представлен Комитету по этике факультета искусств и социальных наук как один из четырёх пилотных экспериментов. Это был единственный из них, в котором использовались ИИ-боты. По информации университета, этический комитет охарактеризовал проект как «исключительно сложный» и рекомендовал, насколько возможно, информировать участников и строго соблюдать правила платформы Reddit.

Русскоязычная оригинальная версия материала создана, адаптирована и отредактирована русскоязычной редакцией SWI / ип / нк / ап.

Инструменты генеративного ИИ, такие как ChatGPT, всё активнее проникают в повседневную работу журналистов. Как это влияет на нашу работу? Используем ли мы ИИ в подготовке материалов? Какие преимущества и риски связаны с такими инструментами? Можно ли распознать, где использовался ИИ? В данном видео на эти вопросы отвечает главный редактор SWI Марк Ливингстон (Mark Livingston).