Швейцария, машинный интеллект и цифровая революция

Насколько Швейцария готова к цифровому будущему и какую роль в этом будущем сыграет искусственный интеллект (ИИ)? 

Русскоязычную версию материала подготовил Игорь Петров.

Цифровые, объединенные в самообучающиеся сети технологии открывают огромные возможности для экономики и общества. В то же время они ставят новые, ранее невиданные этические вопросы и поднимают новые, ранее никем не ставившиеся технические проблемы, например, в области автоматического распознавания лиц людей. Швейцария, являющаяся одной из ведущих в мире стран в области развития систем на основе так называемого «искусственного интеллекта», скоро, если не уже, окажется перед совершенно новым вызовом. 

Качественное изменение структуры промышленности и перераспределение спроса на рабочую силу, связанное с сокращением, прежде всего по причине ускоренной автоматизации, числа рабочих мест в одних отраслях и с появлением новых рабочих мест в других секторах экономики, господство непрозрачных и опасных для демократии алгоритмов социальных сетей, проблема защиты данных, поддельные видео, создаваемые на основе технологий «дип фейк», вопросы кибербезопасности — все эти и другие вопросы уже в ближайшем будущем будут для Швейцарии актуальны как никогда. И дело даже не в гибридной пропаганде сетевых троллей. 

Что будет, если технологии ИИ попадут «не в те руки»? На основе каких правовых и этических норм и правил должны функционировать роботизированные устройства в области новейших способов ведения военных действий (так называемые «роботы-убийцы»)? Как следует регулировать функционирование автономных самообучаемых транспортных систем? Конечно, пока «восстание машин» остается сюжетом из фантастических триллеров, однако, учитывая быстрый технический прогресс и рост объемов инвестиций в соответствующие технологии, можно предположить, что искусственный интеллект и другие схожие технологии уже в ближайшем будущем будут играть куда более активную роль в военном строительстве, чем сейчас.

Если коротко, то Искусственный интеллект (ИИ) — это следующая ступень в обработке и использовании того, что раньше называлось «большие объемы данных» (big data). В настоящее время самообучающиеся «нейрональные сети» уже претендуют на то, чтобы брать на себя так называемые «рутины», то есть процессы, происходящие в фоновом автоматическом режиме. Если сравнивать это с человеческим организмом, то такого рода «рутины» образуют вегетативную нервную систему, обеспечивающую бесперебойное функционирование процессов, на которые мы не обращаем внимания, но без которых мы не можем существовать (давление, дыхание, пищеварение, сердцебиение и так далее). 

В составе все более сложных машин также можно выделить подгруппу похожих процессов вспомогательного характера, автоматизация которых на основе адаптивных самообучающихся систем, способных не просто работать, но и анализировать режим и итоги этой работы, совершенствуя ее с учетом постоянно поступающих из внешнего мира эмпирических данных, могут стать для человека могучим подспорьем.

Сейчас в Швейцарии над такими «умными программами-приложениями» работают многочисленные стартапы, в основном концентрирующиеся вокруг Цюрихского и Лозаннского политехов (ETH и EPFL). Возникает вопрос: где и когда сумма таких «рутин» перейдет из количества в качество? Кроме того, кто и на каких условиях должен (может) иметь доступ к соответствующим инженерно-техническим решениям, например в области развития функционала автономно управляемых разведывательных и боевых ударных беспилотных летательных аппаратов?

Швейцария хочет быть лидером не только в сфере техники, но и в области определения этических норм и стандартов развития и использования ИИ. Но с чего она могла бы начать? С высокой репутации лейбла «Сделано в Швейцарии». Почему бы не запустить аналогичный знак качества и в области цифровых технологий, назвав его, например, Swiss Digital Trust? «Такого рода маркировка могла бы способствовать превращению этичного и ответственного поведения в конкурентное преимущество», — предполагает Ниниане Пэффген (Niniane Paeffgen), руководитель Швейцарской цифровой инициативы (Swiss Digital InitiativeВнешняя ссылка), придумавшей лейбл Swiss Digital Trust. 

При всей туманности такого рода проектов, очевидно, что в мировом и швейцарском обществе существует широкий консенсус относительно необходимости формулирования четких правил и понятий в области этического и правового регулирования новых цифровых технологий. С этой целью Федеральным советом, правительством Швейцарии, была создана Межведомственная рабочая группа «Искусственный интеллект» (Interdepartementale Arbeitsgruppe Künstliche Intelligenz). В конце ноября 2020 года она сформулировала «Руководящие принципы использования технологий искусственного интеллекта в работе федеральных органов исполнительной власти» (Künstliche Intelligenz für die BundesverwaltungВнешняя ссылка). 

«Для Швейцарии важно уметь использовать потенциал, предоставляемый новыми возможностями искусственного интеллекта, — говорится в докладе Рабочей группы. — Для этого важно обеспечить наилучшие рамочные условия хозяйствования, с тем чтобы Швейцария смогла закрепить за собой лидирующие мировые позиции в качестве ведущей глобальной площадки для разработки и внедрения инновационных решений в области развития и применения ИИ. В то же время важно установить и, по возможности, устранить риски, связанные с применением самообучающихся сетей». 

При всей верности данных тезисов следует отметить, что как раз с «цифровизацией» органов власти всех уровней в Швейцарии дела обстоят не так хорошо, как хотелось бы: в последние 10-15 лет в прессе постоянно появлялись скандальные публикации о провале тех или иных IT-проектов, призванных катапультировать министерства и ведомства в новую цифровую эпоху. Последним таким провалом стал потерпевший поражение проект внедрения системы цифрового голосования в сети E-Voting. 

Разные представления о моральных нормах

Сейчас со всех сторон раздаются громкие призывы к установлению некоего глобального обязательного стандарта в области применения новых систем с применением ИИ и самообучающихся нейрональных сетей. Например, этим вопросом занимается Европейский парламентВнешняя ссылка. В марте 2024 года Европарламент одобрил более строгие нормы и правила применения систем на основе «искусственного интеллекта» в Евросоюзе. Это первый подобный закон в мире. Такое регулирование направлено на запрет систем на основе ИИ, предоставляющих собой «неприемлемый» риск для граждан и демократии.

Анализ, проведенный Лабораторией этики и политики в области здравоохранения (Health Ethics and Policy LabВнешняя ссылка) при цюрихской Высшей технической школе (ETH), показал, что на основании всех актуально соответствующих программных документов невозможно выделить некий общий этический «мета-принцип», который был бы применим, чтобы искать основы для решения задачи регулирования будущих новых технологий. Учитывая фундаментальные различия между основополагающими этическими ценностями, действующими в разных странах, маловероятно, что мы в ближайшем будущем получим какое-то единообразное решение данной проблемы. 

Уже успехом, поэтому, можно считать тот факт, что более чем в половине такого рода деклараций были упомянуты пять фундаментальных областей, на которые следует обращать внимание при разработке и внедрении технологий на основе ИИ: прозрачность, справедливость и равноправие, предотвращение вреда, ответственность, защита данных и неприкосновенность частной жизни. Центр изучения искусственного интеллекта при Высшей технической школе Цюриха (ETH Zürich) ориентируется как раз на эти проблемные сферы. Эксперты центра выступают за то, чтобы искусственный интеллект помогал человеку, а не заменял его. 

Как говорит глава этого центра Александр Илич, «мы хотим, чтобы люди поняли: технология как таковая — вещь отнюдь не нейтральная. Человек, изобретающий что-либо новое, несет определенную ответственность. Поэтому для нас очень важно активно участвовать в этом диалоге. Очень важно, чтобы на формирование критериев и нормативов применения искусственного интеллекта повлияли именно европейские ценности». Наверное, самым важным аргументом в пользу использования искусственного интеллекта является его способность упростить нашу жизнь, а иногда даже и вносить вклад в спасение жизней людей, например при помощи автономных «умных» БПЛА, способных работать в самых сложных условиях. 

Наконец, по оценкам аналитиков Европейского парламента, ИИ сможет внести свой заметный вклад в сокращение глобальных выбросов парниковых газов уже к 2030 году на показатель от 1,5% до 4%. Для сравнения: примерно столько парниковых газов каждый год генерируют все глобальные авиаперевозки. Пандемия коронавируса, как ни странно, дала мощный толчок развитию технологий на основе ИИ: автономные роботы, производящие дезинфекцию общественных помещений (школьные классы, офисы) уже перестали быть фантастикой.

Как быть с рабочими местами?

Многие, тем не менее, жестко критикуютВнешняя ссылка ИИ, что совершенно легитимно. Как говорил Стивен Хокинг, «искусственный интеллект есть либо самое лучшее, либо самое худшее из того, что случилось с человечеством за всю его историю». Что касается экономического уклада современного общества, то он сейчас переходит на качественно новый цикл развития, вполне укладывающийся в теорию Больших циклов КондратьеваВнешняя ссылка. 

Большие объемы данных, интернет вещей, 3D-принтеры и другие разработки качественно меняют требования к сотрудникам, трансформируя и сам характер созидательного труда как такового. Рутинные, простые задачи все чаще делегируются машинам, использование ИИ уже сейчас ведет к рационализации и качественному повышению эффективности рабочих мест и труда, что вполне укладывается в теорию рационализацииВнешняя ссылка общественной и промышленной жизни, разработанной великим немецким социологом Максом Вебером, ставшим наследником и «могильщиком» марксизма. 

Как показывают перспективные исследования, уже более половины видов работ, выполняемых в настоящее время человеком, может быть выполнено быстрее и эффективнее с помощью автоматизированных и роботизированных систем. Швейцарский эксперт Ксавье Оберсон (Xavier Oberson) предлагает, поэтому, облагать налогом роботов каждый раз там и тогда, где и когда они будут брать на себя работу, традиционно выполняемую человеком. Доходы от такого налога могли бы быть инвестированы в системы социального обеспечения, обучения и переобучения безработных. На бумаге выглядит хорошо, но такого рода проект непременно приведет к росту степени вмешательства государства в экономику, на что в Швейцарии точно никто и никогда в ближайшем будущем не пойдет.