Что можно сделать против языка ненависти в интернете?

Что можно сделать против языка ненависти в интернете? Vera Leysinger / SWI swissinfo.ch

Язык ненависти угрожает обществу и демократии. Социальные сети Facebook и Instagram заявили, что отныне они предоставят пользователям большую свободу высказываний, а потому роль волонтеров, противостоящих языку ненависти, станет еще важнее.

Анн-Селин Маше (Anne-Céline Mascher), директор женевского феминистского фонда Fondation pour l’égalité de genre, обеспокоена, например тем, какое воздействие это решение окажет на женщин. Она говорит, что женщин с детства приучают быть сдержанными и уходить на вторые роли в дискуссиях, а в интернете этот эффект только усиливается. Женщины-политики и журналисты становятся мишенью сетевых атак, и это вынуждает многих из них уходить из публичного пространства и социальных сетей.

«Мы должны объяснить им, что против языка ненависти можно и нужно принимать эффективные меры», — говорит Анн-Селин Маше. Что такое язык ненавистиВнешняя ссылка? Этим термином многие ученые и эксперты описывают оскорбления и унижение человека из-за его социальной принадлежности, имеющие место в социальных сетях.

Анн-Селин Маше (Anne-Céline Mascher), директор женевского феминистского фонда Fondation pour l’égalité de genre. Yoshiko Kusano

Как показало исследование, проведенное социологическим НИИ Sotomo из Цюриха в 2022 году, 86% жителей Швейцарии считают цифровое вербальное насилие распространенной и серьезной проблемой (PDFВнешняя ссылка). В 2023 году ЮНЕСКО выяснила, что 67% людей сталкиваются с языком ненависти в интернете, а чаще всего от него страдают квир-персоны, этнические меньшинства, мигранты и женщины. Совет Европы считаетВнешняя ссылка язык ненависти угрозой демократическому обществу, поскольку он может провоцировать физическое насилие и конфликты.

Проекты по борьбе с языком ненависти

Фонд Fondation pour l’égalité de genreВнешняя ссылка разработал стратегию противодействия языку ненависти в интернете. В этом ему помог швейцарский проект Stop Hate Speech,Внешняя ссылка в рамках которого волонтеры реагируют на язык ненависти, фиксируют и документируют случаи вербальной агрессии в цифровом пространстве. Напомним, что в январе 2025 года Марк Цукерберг (Mark Zuckerberg) заявил, что в текущем году платформы Facebook и Instagram отдадут приоритет свободе слова, ослабив режим модерации контента.

Софи Акерманн (Sophie Achermann), основательница проекта Stop Hate Speech. Yoshiko Kusano

Теперь вместо профессиональных модераторов потенциально вредоносный контент будут отслеживать добровольцы. Это вызвало у многих опасения, что интернет станет еще более токсичной средой. По данным проекта Stop Hate Speech, 65% всех ненавистнических комментариев исходят от 1% аккаунтов. Этот парадокс, тем не менее, вселяет надежду на то, что относительно небольшое число активистов сможет оказать значительное влияние на ситуацию с языком ненависти и вражды в сетях.

Роль социальных сетей и крупных платформ

Владельцы ведущих цифровых платформ тоже играют свою роль, и немалую. Илон Маск (Elon Musk), например, владелец X/Twitter, публично поддерживает премьера Индии Нарендру Моди (Narendra Modi), часто и многими обвиняемого в антимусульманской риторике. В таких условиях модерация может стать инструментом репрессий. Некоторые проявления языка ненависти уже попадают под действие уголовного права. Таковы, например, клевета или разжигание вражды. В странах ЕС действует закон о цифровых услугахВнешняя ссылка, регулирующий порядок модерации контента в социальных сетях.

Каспар Вайманн (Kaspar Weimann) координирует работу активистов, публикующих отповеди в ответ на враждебные комментарии. Luzia Oppermann

Однако, как показывают исследования, проведенные в том числе в Высшей технической школе Цюриха (ETHZ), избыточная и навязчивая модерация контента способна подавлять необходимую свободу слова и даже иметь обратный эффект, провоцируя и усиливая язык ненависти. Например, принцип «онлайн нелегально всё, что нелегально офлайн» при его буквальном толковании может обернуться против в том числе ЛГБТ-сообщества: там, где, как в России, действуют формальные законы, запрещающие «пропаганду гомосексуализма».

Исследование ETHZ от 2021 года также показало, что самым эффективным методом противодействия языку ненависти может стать эмпатияВнешняя ссылка. Как выяснили ученые и эксперты, реагировать на хамство хамством нельзя, юмор и мемы уже не работают, а вот что может сработать, так это напоминание о том, что комментарий увидят все. Апелляция к эмоциям («Подумайте, как этот комментарий воспринимают другие и что они о вас подумают») может снизить количество враждебных постов и комментариев.

Современные подходы к борьбе с языком ненависти

Интересно, что сейчас метод «ударим по ненависти эмпатией» используют даже противники жесткой модерации контента, такие как институт Future of Free Speech в Университете Вандербильда (Vanderbilt University). Там полагают, что жесткие запреты в сетях могут навредить диссидентам в Сирии и Афганистане. Но вернемся в Швейцарию.

Сработает ли метод эмпатии в русскоязычном интернете?

В русскоязычном сегменте интернета этот метод тоже может сработать, но его эффективность будет зависеть от контекста. Он может быть эффективен в среде пользователей, для которых важно мнение окружающих, например, если они ведут публичную деятельность.

Этот метод вряд ли сработает в агрессивных группах и анонимных чатах, где всё строится на провокации. Тем, кто осознанно распространяет язык ненависти и действует целенаправленно, вообще всё равно.

Для противодействия токсичности в интернете можно применить метод «социального зеркала», предложенный Чарльзом Кули (Charles Horton Cooley, 1864–1929), американским социологом и социальным психологом из Мичиганского университета.

Применительно к соцсетям этот метод мог бы выражаться в ссылках на конкретные примеры последствий языка ненависти (увольнения, судебные дела, общественное порицание).

Сработать может напоминание: подумайте, а если бы так говорили о вас или ваших близких? Можно использовать авторитетные мнения, цитаты известных людей, ссылки на исследования.

Источник: по ссылке.Внешняя ссылка

Там проект Stop Hate Speech уже сотрудничает с крупными швейцарскими СМИ, анализируя онлайн-комментарии на их сайтах и в соцсетях. Однажды, например, с его помощью был обнаружен аккаунт, который за месяц оставил 30 000 ненавистнических комментариев. «Мы думали, что это бот, но это оказался живой человек», — вспоминает Софи Акерманн.

Проект Stop Hate Speech не только фиксирует случаи языка ненависти, но и учит минимизировать его влияние. Каспар Вайманн (Kaspar Weimann) из Германии координирует чат-группы, где активисты публикуют отповеди в ответ на враждебные комментарии. «Мы не должны уходить из соцсетей, мы не должны отдавать это пространство производителям языка ненависти», — считает он, напоминая о фундаментальном парадоксе: соцсети — это и частные компании, и одновременно площадки для демократических дискуссий.

По словам Каспара Вайманна, ситуацию в реальном мире вполне могут изменить пара сотен людей, если только они будут действовать сообща. Как писал в своем дневнике Лев Толстой: если сила плохих людей в том, что они вместе, то хорошим людям, чтобы стать силой, надо сделать то же самое.

Русскоязычная оригинальная версия материала подготовлена, адаптирована для целевой аудитории, выверена и научно отредактирована русскоязычной редакцией SWI / ип / нк / ап.