自動運転車が事故を起こしたら？ジュネーブで進む基準作り

この５年間、スイスの都市と交通機関では、ルートを固定した無人運転車両の実地走行試験が行われてきた © Keystone / Urs Flueeler

車の自動運転の性能が向上するにともない、どの程度まで車は自身の動きを説明できるようになるべきだと思うか？――これは、国連の専門機関が実施する自動運転に関するサーベイの問いの１つだ。

無人の自動運転車が、人里離れた場所で道路を横断中の子供に衝突した時、誰も目撃者がいなかった場合に車はどう対応するか？車は衝突が起きたことを感知できるか？自動的に停止して救急車を呼ぶことはできるか？車は何が起きたのかを説明できるか？歩道に突っ込んだ時に人工知能（AI）がどのような決断をしたのかを思い出すことはできるか？

これらは、ジュネーブにある国連専門機関、国際電気通信連合（ITU）が実施するサーベイの問いの一部だ。衝突された架空の女の子の名前に因んでモリー問題外部リンクと呼ばれる。

ITUの重点グループ「自律・アシスト走行のためのAI外部リンク（AI4AD）」リーダーのブリン・ベルカム氏は「モリー問題は我々が考案した思考テストで、細かな問いを積み重ねることで、人々が重要な問題に意識を向けられるように作られている。AIシステム（AIを組み込んだ制御システム）に関しては、事故などの出来事を正当化したり記録したりといった説明能力がどの程度必要か、思考を深めていく」と説明する。

サーベイの結果外部リンク、予想通り、人々は無人の自動運転車がひき逃げするはずがないと思っていることがわかった。AIが運転する車は、当然何が起きたか十分に説明できるだけのデータを記録しているとの期待があり、ニアミス事故についても同様に考える人が多い。

AI4ADには、世界中の自動車業界、通信事業者、大学、規制機関の代表者350人が参画し、「ITU勧告」の草案を作成している。道路上の自動運転車両の動作を監視する国際的な技術基準を定めるものだ。モリー問題によるサーベイもこの一環として行った。

AI4ADの使命は、自動運転車両について、現状の基準と規制の間にあるズレを指摘することだ。ベルカム氏は、「実際には、歩行者との衝突を感知する技術基準は存在しない。ニアミス事故についても、データの記録や感知技術の基準についての具体的な規制はない」と言う。同氏は自動運転レーシングカー選手権「ロボレース」の最高戦略責任者でもある。

スイスでは昨年、連邦内閣が、道路交通法の改正案の意見聴取手続きを行った。改正案によれば、自動運転車の規制は議会承認の要らない内閣指令で決めることができる。これにより、自動運転車の普及に合わせた柔軟な対応が可能となる。

AI4ADの作るITU勧告案は、国連欧州経済委員会（UNECE）の諸機関が国際規制・技術要件を自動運転車向けに改定する作業のたたき台とする狙いがある。

ベルカム氏は「世界中の政府が合意した原則を、どのように解釈しAIやデジタル世界に取り込めるか？」と問いかける。

草稿は来年初めにITUに提出する予定だ。その後、ITUが草稿をITU勧告に反映させるかどうか決定し、発出されたITU勧告を各国の規制機関が自国の取り組みに反映させる。

AIサミット

AI4ADがスタートしたのは2019年。ITUが主催するAIグローバルサミット（AI for Good、AIサミット）2019年次会議で、交通安全対策へのAI活用をミッションとして発足した。世界では年間130万人が交通事故で亡くなり、その9割は低・中所得国で発生している。交通事故犠牲者を減らすことは国連の持続可能な開発目標（SDGs）が掲げる目標の１つだ。

ITU戦略的エンゲージメント責任者でAIサミットの立ち上げに尽力したフレッド・ヴェルナー氏は「AIサミットは、SDGsが2030年までに到達できる見込みが低いことを理由に設置された。AIを利用することで、いくつかのSDG課題を迅速に解決し目標達成に導くことが期待されている」と言う。

AIサミットは193カ国と900を超える企業、大学、団体などで構成される。ITUは、この異分野・異業種の集まりが、さらに多様なステークホルダーを呼び寄せ、AIの活用機会と挑戦的課題についての議論がより一層活発化することを期待する。

ヴェルナー氏は「AIは重要な技術だからAI専門家だけのものにしておくべきではない、と専門家自身が言うだろう。だから、可能な限り多くの異なる分野からの意見を集めることがサミットの使命だ」と言う。

AIサミットはこれまでに、国際標準化の策定準備をになう複数の重点グループを立ち上げてきた。ベルカム氏のグループもその１つだ。他には、例えば、健康、エネルギー効率、自然災害管理へのAI活用重点グループがある。

ガバナンス

一方、AIシステムとその社会への影響を監査する非営利団体（NPO）のアルゴリズム・ウォッチ（AlgorithmWatch）スイスのシニアマネージャーでポリシー・アドボカシーチームを率いるアンジェラ・ミュラー氏は、AIサミットが発するメッセージに対して懐疑的だ。

同氏はガバナンスの議論が置き去りにされがちだと指摘する。「AIが世界を救うシナリオで進めば、結局、行き着く先はAI研究への資金投資にしかならない」

ガバナンスの公開討論は、事実に裏付けされたエビデンス（合理的根拠）に基づいて行わなければならない。そのためには、AIシステムを搭載した自動運転車が動く仕組みを開示し透明化することが肝要だ。ミュラー氏は、AIシステムがどのように意思決定を行い、人間にどのような影響を与えるのか、専門家が一般社会にわかりやすく説明することに大きな関心を示す。

「今まさに、専門家以外へのエビデンス開示と説明の必要性が議論されている。このことは非常に重要だ。我々がガバナンスを検討する際に欠かせないだからだ」と同氏は強調する。

現在、欧州委員会（EC）は、世界初のAI規制法の策定を進めている。現在審議中の提案では、AI技術のリスクが言及され、具体的な利用に課せられる義務が明確に定義されている。スイスにはまだ欧州のAI規制法案に相当するものは存在しない。

ミュラー氏は主張する。「標準化のプロセスは将来の規制策定の青写真となる可能性がある。だから、包括的であることが重要だ。ECの規制法案のように、世界と各国の両方で規制に取り組むことが必要だ。また、事業者には、自社が製造するAI自動運転車の動作に対し責任を持つこと、それを確実に実施することが求められる」

交通安全のためのAI

ITUと国連交通安全特使、国連技術特使は10月初め、新しいイニシアチブ「交通安全のためのAI外部リンク」を立ち上げた。官民両方のAI利活用の取り組みを支援し、道路を利用するすべての人々の安全性の向上をねらう。

AIの性能を決める要素はいくつかあるが、データを利用するAIの場合はデータの質と量が性能を大きく左右する。自動運転車が利用するのは、車両、他の道路利用者、道路設備のデータだ。利用するデータが多いほど、自動運転を制御するAIは的確に動く。例えば、衝突に関するデータを十分に収集し、適切な統計処理を行うことで信頼性が向上し、道路設備の改善や緊急時の要請に迅速に応えることが可能となる。

AI4ADも「交通安全のためのAI」活動に参画する。ベルカム氏は「車同士が互いにデータを共有し、車と歩行者がデータを共有し、さらに道路設備が車と歩行者とデータを共有し、それら全てをAIが利用することで、道路上の安全性を向上することが可能になる」と説明する。

SDGｓは2030年までに交通事故の死亡者数を半減させる目標を掲げる。そのためには、世界の致死事故の大半を占める低・中所得国に注力し、信頼性の高いAI制御の自動運転車の普及を進める必要がある。しかし、問題は自動運転車にかかるコストだ。アシストのない完全な自律走行車両はコストがかかりすぎるため、低・中所得国での大規模導入の大きな足かせとなっている。だが自動運転車から収集するデータの多くは、よりコストの低いアシスト付き運転車両からも収集できる、とベルカム氏は指摘する。

「この方法でコストを下げ、AI技術を利用したシステムを低・中所得国に展開することが可能だ。AI4ADの活動を拡張して取り組めば、2030年までに変化を起こせるはずだ」（ベルカム氏）

（英語からの翻訳・佐藤寛子）