AIドローン先進国スイス　倫理問題では出遅れ

チューリヒ大学で開発されたドローンの試作品 zVg

スイスは技術開発分野で最先端を行くが、軍事利用を防ぐためのルール設定には消極的な姿勢を見せる。

スイスにとって、ドローン開発とAI（人工知能）分野の最先端研究拠点であるという肩書は、とても重要だ。スイスの技術系大学の水準は世界でもトップクラス。科学論文の質や、それが研究に与える影響力を考慮すると、スイスはナンバーワンと評価される。特にチューリヒ周辺エリアはグーグルをはじめ多くの最先端企業が拠点を置き、さらに一流大学の付属研究所が林立するため「ロボット工学のシリコンバレー」として知られている。

このような最先端の研究には常にリスクが付きまとうが、研究を推進する政府がそれに触れることは少ない。しかし科学者の間では、この問題が頻繁に話題に上る。AI研究者はしばらく前から、ドローンを含むAI搭載兵器の開発競争を危惧してきた。2017年には、暗黒の未来を描写した短編映画「スローターボッツ外部リンク（仮訳：惨殺ドローン）」が公開され、話題を呼んだ。ヒトの操作なしで動く小型ドローンが、ターゲットの人間を追い詰め殺害する内容だ。

技術系大学の最高峰・米マサチューセッツ工科大学（MIT）のマックス・テグマーク物理学教授は「多くの政治家は、技術開発に関する知識が十分ではない」と指摘する。「（AI搭載兵器は）大量殺戮が可能な兵器なのに、おそらく誰でも手に入れることができる」。テグマーク氏は、スロータービデオを制作した非営利団体「フューチャー・オブ・ライフ・インスティチュート」を運営する。米軍の専門家ザッカリー・カレンボーン氏も、ドローン兵器には化学・生物兵器に匹敵する危険性があると訴えている。

自律型致死兵器システムは近年、現実となりつつある。2021年にはイスラエル軍がドローン群をパレスチナのガザ地区に向けて発射した。AI搭載技術が戦地で実際に使用されたのは初めてだった。また2022年秋、イスラエルの軍需品生産企業「エルビット・システムズ」は、自律的にターゲットを察知するドローン「LANIUS」を発表した。兵士がスイッチを押すだけで、たちまち殺人マシーンに変化するドローンだ。ひとたび起動させると、ターゲットを狙撃したり、標的の内部に潜り込んで爆発したりする。攻撃の意思決定とドローン技術、AIが切れ目なく連携する共存関係を構築している。

現在のところ、これらの殺人兵器は人間が引き金を引くことで作動し、その結果に対する責任も人間が負う。しかし、この構図は変わるかもしれない。2020年、リビアで自律型致死兵器システム（LAWS）が実装された。どのような状況で使われたのかは不明だが、国連が発表した報告書によれば、トルコ製ドローン「Kargu-2」が人間の操縦なしでターゲットを攻撃したという。

イスラエルとトルコに加え、米軍、中国、英国、インドやその他の国々が同様の技術開発に取り組んでいる。この分野の研究に利用されるアルゴリズムのいくつかは、スイスで開発されている。

あいまいなルール

スイスの大学は、自身の研究する技術が軍事利用される可能性について積極的に発信していない。連邦工科大学ローザンヌ校（EPFL）はその典型例だ。2010～22年に同校の連邦研究能力センター（NCCR）ロボティクス領域長を務めたダリオ・フロレアーノ氏と、同校主催の公募プロジェクト「イノベーション・ブースター・ロボティクス」を率いるオード・ビアー氏は、ともにこの点に関してコメントを避けた。両者とも第一線で活躍する研究者だが、ドローン兵器などの技術がどの程度軍事利用されているかは関知していないと主張する。

とはいえ、いくつかのルールも存在する。軍事関連機関との連携には大学の許可を必要とし、研究者は連邦政府が定めるデュアルユース・ガイドライン（民生と軍事の両方に適用されるガイドライン）に従わなければならない。しかし、EPFLの知能システム倫理学の研究者マルチェロ・イエンカ氏は、こうしたルールは最新技術にはもはや不十分だと指摘する。「2020年代になり、民生用と軍事用技術の間は明確に線引きができなくなった」。また使途で区分する輸出規制も機能しないとみる。AIは定義上、一般利用を目的としており、「たとえ輸出後に兵器として使うものでもソフトウェアとして移転できる」ためだ。

スイスでの研究活動は、オーブンサイエンスの方針を取る。したがって研究結果は一般に公開されなければならない。イエンカ氏は「LAWSは研究の自由と、極端な悪用の可能性の間に起きるジレンマ問題を悪化させた」と語る。「倫理学者間のコンセンサスとして、『生か死か』を自律的に決定できるような機械は造るべきではないとの認識がある。スイスでそのような意図をもって開発する人はいないと思っている」。だが「たとえ善意の研究であっても、第三者によって軍事や犯罪目的に悪用される可能性がある」とも話す。数々の研究プロジェクトを支援するスイス国立科学財団（SNSF）も「これらの発見が将来、どのような形で実用化されるのかを予測するのは不可能だ」と表明している。

イエンカ氏は、研究を危険にさらすことなくジレンマ問題に対処する方法を2つ提案する。まず、軍事関連機関から資金援助を受ける研究者は、このことを開示し、利害対立にどう対処するかを明示する。そして大学側は、化学・生物学研究で長く培われてきた安全教育を採り入れ、科学者にリスクに対する注意喚起を行うことだ。

倫理観は個人の問題

スイスには倫理的な問題に関する連邦レベルのプログラムは存在しない。チューリヒ大学には研究者のための意識向上プランがあるが、この研修プログラムは義務ではない。EPFLでは、新入生は倫理科目が必修だが、すでに存在するチームの学生は選択科目であり、履修の可否は各チームを率いる教授の意思に委ねられる。

イスラエルの防衛を請負い、軍事用にAI搭載ドローンの開発に貢献したエルビット・システムズは、スイスに2つの子会社を持つ。スイスの新型偵察ドローン「ADS15」はエルビット社の製品だ。同社は公式ホームページで、スイスの技術水準の高さと研究施設の魅力を力説している。

イスラエルとスイスの共同研究を推進するSNSFは「研究活動は組織化されるべきだ。そうすれば悪用を防ぐことができる」と書いている。リスクの疑いがあるケースではSNSFも対処に動くが、その責任は「主に研究者とその研究機関」にあるとする。今のところ非平和的利用のリスクに関して、研究者が参考にできる標準化された評価法はない。

連邦政府は、産学連携推進機関「イノスイス（Innosuisse）」を通じて企業に注意喚起している。しかしそれぞれの研究・開発に直接関係する法的要件の遵守は企業側に委ねられている。「イノスイスはこの点において責任を負うことはできない」

連邦政府は、SNFSとイノスイスのためにガイドラインを作成したが、義務付けてはいない。連邦教育研究革新事務局（SBFI/SEFRI）は「大学とそこで働く研究者たちが科学の公正性を司っている」と書いている。「これを、どういった形で実践するかは、（研究内容または研究者によって）大きく異なる」

※この調査報道はメディア支援団体JournaFONDの助成金により支援を受けている。初掲載は2023年1月15日付の大衆紙ブリック紙日曜版外部リンク。

Stefany Barker

英語からの翻訳 : 中島由貴子