«Задача демократии не дать цифровым технологиям выйти из-под контроля»

Когда городская цифровая среда начинает всё сильнее зависеть от частного программного обеспечения, системы цифрового наблюдения вполне способны даже в таких демократических странах, как Швейцария, превратиться в инструмент тотальной слежки и контроля. Поэтому и гражданам, и обществу нужно очень внимательно следить за тем, кто собирает цифровые данные, где они хранятся и кто получает к ним доступ.

Представьте себе город, в котором почти вся ваша повседневная жизнь оказывается под постоянным цифровым наблюдением: видеокамеры стоят на каждом углу, ваши действия в интернете отслеживаются, а финансовые операции анализируются в рамках системы социального рейтинга. Какая страна первой приходит в голову? Многие почти автоматически ответят: Китай, Россия, Северная Корея. В 2022 году, во время полевых исследований в Казахстане, Кыргызстане, Таджикистане и Узбекистане, я сама столкнулась с такой слежкой.

За мной следили в общественных местах, регистрировали активность в интернете, и однажды мне пришлось перезагрузить мой iPhone 13, так как у меня были все основания полагать, что на нём могла быть установлена шпионская программа. В наши дни, однако, цифровая слежка уже не является особенностью одних только авторитарных режимов. Платформы, программы-приложения, облачные сервисы, датчики и городские системы видеонаблюдения, то есть вся инфраструктура, которую обычно связывают с понятием «умный город» (smart city), тоже способны стать инструментами постоянного наблюдения и контроля. То, что я видела в Центральной Азии, возможно и в демократических обществах, просто у нас такие системы устроены иначе и часто работают на базе частных компаний или по крайней мере при их участии.

Швейцария, которую часто считают страной устойчивой демократии и государством с надёжными гарантиями защиты частной жизни, на самом деле тоже не застрахована от постепенного формирования системы тотальной цифровой слежки. На бумаге правовая база выглядит вполне убедительно и цивилизованно, но и здесь есть свои лакуны и пробелы. Законодательство Швейцарии, регулирующее порядок защиты частных данных, сравнительно удобно для бизнеса, надзорные органы имеют весьма ограниченные полномочия, а многие новые технологии, включая системы искусственного интеллекта, пока регулируются здесь очень слабо.

Как Big Tech контролирует массивы данных?

Концерны Google, Meta и крупные телекоммуникационные компании собирают огромные массивы персональных данных. Используются они прежде всего для таргетированной рекламы, но их уже не раз применяли как для целей политического влияния, так и для слежки. Скандал с компанией Cambridge Analytica показал, что сведения, полученные из социальных сетей, вполне можно использовать с целью воздействия на итоги голосований и выборов. А американский «Закон об уточнении правомерности использования хранящихся за рубежом данных» (Clarifying Lawful Overseas Use of Data Act / CLOUD Act) позволяет властям США запрашивать данные у американских облачных провайдеров, таких как Microsoft или Google, даже если сами данные хранятся хотя и у них, но за физическими пределами США, в том числе и в Швейцарии.

Крупные технологические компании и их руководители получили огромную власть над данными, а значит, в их руках находятся и мощные рычаги влияния на публичные дебаты и дискуссии. При этом они не несут демократической ответственности, хотя бы отдалённо сопоставимой с масштабом их общественного влияния. Такая концентрация власти опасна не только потому, что она создаёт новые возможности для слежки за гражданами. Она влияет и на то, как формируются политические решения, и кто получает возможность воздействовать на общественное мнение.

И именно здесь Швейцария, как и многие другие устойчивые демократии, сталкивается с куда более сложной проблемой, а именно, с технологической зависимостью от сравнительно небольшого числа крупных IT-компаний. Значительная часть цифровой инфраструктуры, на которой держатся в том числе и швейцарские «умные города» (облачные сервисы, программные платформы и инструменты на основе ИИ) контролируется глобальными технологическими компаниями, в основном из США и Китая. Но при всём при этом, даже несмотря на все риски, в 2022 году швейцарские власти поручили создание суверенного «швейцарского облака» (Swiss cloud) именно таким компаниям (Amazon, Microsoft и Alibaba).

Кто контролирует городскую инфраструктуру?

Поэтому вопрос состоит не только в слежке, но и в цифровом суверенитете. Если даже швейцарские государственные структуры пользуются инфраструктурой, которую они сами не в состоянии полностью контролировать, то каким образом они собираются защищать интересы граждан? Отсюда возникает и следующий вопрос: как вернуть демократическому обществу контроль над технологиями, от которых наши города зависят всё сильнее и сильнее? Здесь есть один путь — развивать собственные технологические решения. В Швейцарии такие попытки уже предпринимаются. Компания AlpineAI предлагает, например, ИИ-решения для тех сфер, где защита данных особенно важна, в том числе для органов госуправления и здравоохранения.

Швейцарский мессенджер Threema предлагает сквозное шифрование, он не зарабатывает на продаже пользовательских данных и позволяет организациям, включая швейцарскую армию, размещать этот сервис на собственной инфраструктуре. Швейцарская компания Synthara разрабатывает энергоэффективные чипы на основе открытых архитектур, снижая зависимость страны от крупнейших мировых поставщиков. Эти примеры показывают: ответ на всевластие Big Tech не сводится к новым законам. Нужны ещё и собственные технологии, более безопасная и прозрачная инфраструктура, лучше соответствующая демократическим принципам.

Что зависит от самих граждан?

Электронная слежка в «умном городе» возникает не только сверху, по воле государств или технологических концернов. Мы сами ежедневно поддерживаем её своими цифровыми привычками. Даже самые строгие законы и собственная надёжная инфраструктура не решат проблему полностью, если мы продолжим бездумно обращаться со своими данными. Мы сами публикуем личную информацию в социальных сетях, сами передаём компаниям данные о своём здоровье через фитнес-приложения и другие носимые устройства, то есть мы каждый день обмениваем нашу приватность на удобство. Это вовсе не значит, что нам следует отказаться от цифровых удобств. Но пользоваться их преимуществами следует гораздо более осознанно.

Даже самые, казалось бы, банальные шаги уже могут сыграть важную роль: нужно действительно читать условия использования, особенно там, где это в самом деле реально имеет значение; нужно отклонять cookies; менять настройки приватности в свою пользу; выбирать платные сервисы, если только они не строят свой бизнес на торговле данными. Для отдельного человека это очень скромные действия, но в масштабах общества они вовсе не бессмысленны. Именно из таких повседневных решений и складывается среда, в которой слежка либо становится нормой, либо она все-таки наталкивается на какое-никакое сопротивление.

Технологии smart city действительно могут быть очень полезны: госуслуги становятся быстрее, планирование точнее, транспорт и инфраструктура эффективнее. Но такие системы должны работать только при наличии понятных гарантий. Демократические страны обязаны добиваться полной прозрачности в вопросах сбора и обработки данных, реально, а не декларативно защищать персональную информацию и требовать как от государственных структур, так и от частных компаний полной ответственности в этой сфере. Иначе слежка станет нормой, причем не в результате насилия, а как следствие нашей собственной инертности.

И тогда реальная власть постепенно уйдёт из-под демократического контроля к тем, кого граждане не выбирали и кто не несёт перед ними ровным счетом никакой политической ответственности. Не стоит думать, что слежка — это что-то далёкое, существующее только в чуждых нам авторитарных странах. Мы вполне можем не заметить, как она тихо придет и в наши дома. Задача демократии поэтому не дать цифровым технологиям выйти из-под общественного контроля.

Читайте также: Швейцарские города хотят стать «умнее»: точнее регулировать транспортные потоки, быстрее предоставлять госуслуги и лучше учитывать повседневные потребности жителей. Но такие системы требуют всё большего объёма личных данных и они всё чаще опираются на технологии искусственного интеллекта (ИИ), которые обычно разрабатывает частный бизнес. Кто в итоге реально управляет городской цифровой инфраструктурой и какие гарантии имеются в руках у горожан?

Как мы используем ИИ 

Русскоязычная версия материала создана с использованием систем искусственного интеллекта (таких как Deepl или Google Translate), затем адаптирована для целевой аудитории и прошла тщательную редакционную обработку и проверку журналистами SWI swissinfo.ch. Использование инструментов автоматического перевода дает нам время для написания большего количества оригинальных аналитических статей. Подробнее по ссылке в этом материале.