Какими должны быть ПДД эпохи беспилотных автомобилей?

За последние пять лет несколько швейцарских городов и транспортных компаний провели эксперименты с беспилотными автомобилями, работавших на фиксированных маршрутах. © Keystone / Urs Flueeler

Поскольку автомобили уже сегодня все чаще становятся способными управлять собой сами и передвигаться в автономном режиме без помощи водителя, то разумеется возникает вопрос, а кто будет виноват в случае возникновения ДТП, да еще, не дай бог, со смертельным исходом? 

Перевод с английского: Игорь Петров. 

Что произойдет, если беспилотный самоуправляемый автомобиль собьет ребенка, переходящего дорогу? И если очевидцев или свидетелей не найдется? Сможет ли сам автомобиль понять, что произошло столкновение с человеком? Остановится ли он, вызовет ли скорую? Сможет ли потом этот автомобиль объяснить, что произошло, или, скорее, может ли система искусственного интеллекта (ИИ) вспомнить и честно рассказать, какие решения она принимала и почему ее решения привели к наезду на пешехода?

Эти и другие вопросы ученые задают сейчас общественности в рамках онлайн-опросаВнешняя ссылка под названием «Проблема Молли» (PDFВнешняя ссылка). «Это мысленный эксперимент, который мы придумали в качестве способа сфокусировать внимание людей на проблеме определения того, какая информация важна, а какая нет, или, конкретно в контексте проблем, связанных с ИИ, каким функционалом нужно снабдить искусственный интеллект, чтобы потом он смог проанализировать все произошедшее и зафиксировать результаты», — говорит Брин Балкомб (Bryn Balcombe), председатель рабочей фокус-группыВнешняя ссылка по проблематике ИИ применительно к автономным транспортным средствам под эгидой базирующегося в Женеве Международного союза электросвязи (МСЭ).

Как показали предварительные результаты опроса, респонденты все-таки ожидают, что автономный самоуправляемый автомобиль будет в состоянии не совершать таких трагических наездов, исходя из того, что, наверное, система вождения на основе искусственного интеллекта должна быть достаточно «умной», иными словами, она должна по умолчанию располагать объемом данных, достаточным для того, чтобы иметь возможность потом объяснить, что произошло. Более того, большинство опрошенных считают, что такие данные должны собираться и в случае столкновений, которые едва не произошли, потому что с их точки зрения это тоже ситуация, которая носит внештатный характер. 

В рабочую фокус-группу, которой руководит Брин Балкомб, входят около 350 представителей автомобильной промышленности, сферы телекоммуникаций, области академической и университетской науки, а также регулирующих и надзорных органов. Все вместе они сейчас разрабатывают предложения по международному техническому стандарту поведения самоуправляемых автомобилей на дороге. «Проблема Молли» является составной частью этого проекта. Цель его — устранение существующих пробелов в нормах, стандартах и правилах дорожного движения уже применительно к автономным беспилотным автомобилям. 

«Реальность такова, что стандартов фиксации столкновений машин с пешеходами сейчас нет», — говорит Б. Балкомб, который также является директором по вопросам стратегии в компании Roborace, проводящей чемпионаты по гонкам на самоуправляемых автономных автомобилях. «Никаких конкретных правил, которые касались бы регистрации данных о столкновениях с пешеходами и даже идентификации столкновений с пешеходами, пока нет», — говорит он. 

В Швейцарии Федеральный совет (правительство, кабмин) провел в прошлом 2020 году специальные консультации, итоги которых призваны будут послужить основой для внесения в законодательство, регулирующее дорожное движение, соответствующих поправок, которые позволят включить автономные автомобили в общее правовое поле с помощью постановлений, не требующих одобрения парламента, что даст стране возможность гибко реагировать на рост степени распространения самоуправляемых автономным беспилотных транспортных средств. Итоги деятельности рабочей фокус-группы, которой руководит Брин Балкомб, призваны поддержать международные усилия по адаптации существующих норм, правил и технических требований, предъявляемых к самоуправляемым автономным автомобилям. 

На глобальном уровне за эту проблематику отвечает Европейская экономическая комиссия ООН (United Nations Economic Commission for Europe / ЕЭК ООН). «Вопрос состоит в том, как можно было бы взять принципы, согласованные правительствами по всему миру, и перенести их в мир искусственного разума, в цифровой мир», — говорит Б. Балкомб. Свои предложения его группа представит в МСЭ в начале следующего 2022 года, после чего Комиссия решит, можно ли их превратить в рекомендации, на которые затем смогли бы ссылаться национальные регулирующие и надзорные органы.

За все хорошее против всего плохого

Основы для работы этой группы были заложены на Глобальном саммите МСЭ AI for Good Global Summit Внешняя ссылкав 2019 году. В самом деле, в дорожно-транспортных происшествиях по всему миру погибают более миллиона человек в год. Девять из десяти всех смертельных случаев на дорогах приходятся на страны с низким и средним уровнем дохода. Проект «ИИ во благо людей» и был как раз создан исходя из того, что для достижения Целей устойчивого развития ООН (ЦУР) уже в 2030 году нам осталось совсем немного времени, и что потенциал ИИ открывает для достижения некоторых из этих целей новые и многообещающие перспективы». 

Об этом нам рассказывает Фред Вернер (Fred Werner), руководитель отдела стратегического взаимодействия МСЭ и инициатор запуска проекта «AI for Good / ИИ во благо людей». Союз Электросвязи надеется опереться при этом на свой уникальный потенциал участника системы ООН, включающей в себе 193 государства и более 900 частных компаний-партнеров, университетов и других организаций. У МСХ есть все шансы на то, чтобы собрать вместе все заинтересованные стороны для обсуждения возможностей и проблем ИИ в области автономного транспорта. «Сами эксперты по ИИ сказали бы, что искусственный интеллект и самообучающиеся нейрональные сети суть слишком важные вещи, чтобы оставлять их на усмотрение одних только технарей-экспертов. Поэтому-то цель наша состоит в том, чтобы собрать за столом переговоров как можно больше разных мнений», — говорит Ф. Вернер.

За годы существования проекта AI for Good уже было создано несколько рабочих фокус-групп по предварительной разработки основ стандартизации в сфере самоуправляемого транспорта. Группа, которую возглавляет Б. Балкомб, как раз одна из них. Другие такие же группы, например, рассматривают перспективы использование ИИ в области здравоохранения, энергоэффективности и в целях ликвидации последствий стихийных бедствий. Анжела Мюллер (Angela Müller), старший научный сотрудник и менеджер НКО AlgorithmWatch Switzerland, некоммерческой организации, занимающейся мониторингом систем ИИ и оценкой их влияния на общество, скептически относится проекту «ИИ во благо людей». 

Она говорит, что «сомневается в господствующем нарративе, который говорит о том, что ИИ в конечном итоге и спасет мир». Ключевым фактором в плане проведения основанных на объективных фактах общественных дебатов по вопросам ИИ является фактор прозрачности и полного понимания того, как работают такие самообучающиеся системы. А. Мюллер, поэтому, считает приоритетными научные исследования, итоги которых доступны широкой общественности и которые в содержательном плане сосредоточены на прояснении того, как системы на основе ИИ принимают свои решения и каково влияние этих решений на общество и на каждого человека в отдельности. 

«Очень важно, что эти дебаты происходят уже прямо сейчас, и что такие научные исследования также уже имеют место в настоящее время». Параллельно над первым в мире законодательством по регулированию ИИ работает сейчас и Европейская комиссия (ЕК). В обсуждаемом в настоящее время законопроекте учитываются риски, связанные с этой технологией, а также закрепляются четкие обязательства в рамках ее конкретного использования. Швейцария на данный момент не имеет ничего сопоставимого с предлагаемым европейским законодательством в области регулирования ИИ.

«ИИ в целях безопасности дорожного движения»

Недавно под руководством МСЭ и при участии как Специального посланника ООН по безопасности дорожного движения и Посланника ООН по технологиям была запущена новая инициатива «ИИ в целях безопасности дорожного движения» (AI for Road SafetyВнешняя ссылка). Она направлена на поощрение государственных и частных усилий и инвестиций в области использования технологий ИИ с целью повышения степени безопасности дорожного движения, причем для всех его участников. Важно, что эти нормы должны быть применимы и в странах с низким и средним уровнем доходов населения. ИИ, например, мог бы усовершенствовать процесс сбора эмпирических данных, накапливаемых транспортными средствами, другими участниками дорожного движения и объектами инфраструктуры. 

Тем самым, например, можно было бы получить более точную статистику дорожно-транспортных происшествий, что могло бы помочь соответствующим образом улучшить дорожную инфраструктуру и ускорить реагирование на чрезвычайные ситуации. «Автомобили постоянно обмениваются данными друг с другом, они общаются и с пешеходами, объекты инфраструктуры обменивается данными и с теми, и с другими, и мы должны иметь возможность использовать все эти данные с помощью искусственного интеллекта с целью повышения степени безопасности движения на дорогах», — говорит Б. Балкомб. Пока стоимость полностью автономных и самоуправляемых автомобилей останется слишком высокой для их широкомасштабного внедрения в бедных странах, и к 2030 году этой цели мы не достигнем. 

«А ведь именно к этому времени мы должны, в соответствии с целями ООН, добиться двойного сокращения смертности на дорогах. Но многие виды данных уже можно было бы получать и от менее дорогих автомобилей, просто оснащенных разного рода системами-ассистентами, использующими элементы ИИ. Вот почему мы реально заинтересованы в расширении масштабов работы и роли нашей рабочей фокус-группы, с тем чтобы понять, как мы могли бы реально изменить ситуацию на дорогах к лучшему уже 2030 году», — резюмирует Б. Балкомб.