考慮すべき人工知能（AI）の倫理問題

デジタル化・ネットワーク化された技術は経済や社会に大きなチャンスをもたらすが、同時に顔認証といった倫理的な問題も引き起こし、国際ルールが求められる。人工知能（AI）分野をリードするスイスの主導力が試される。

自動化による雇用喪失、個人情報の保護、顔認証、ディープフェイク動画、人工知能（AI）・ロボット技術の悪用――。デジタル化は過去に前例のないほど多くの新しい倫理的課題をもたらした。

最近の例に「チャットGPT」がある。AIをベースにしたチャットプログラムで、2022年秋に登場してから話題を呼んでいる。例えば自動でコードを書いたりプログラミング中の誤りを修正したりできる。

このチャットロボットがもたらした倫理問題はかなり具体的だ。チャットGPTを使えばマーケティングのテキストやさまざまな著作物、果ては本1冊を丸々書き上げることさえできる。悪用されるのは当然の帰結として、特に教師は目を光らせている。

AIが間違った人の手に渡った場合、どんな脅威が待ち受けるのか想像などしたくない。例えば殺人ロボットの厳格なルールの必要性を巡り、ジュネーブの国連で議論が交わされたが、いまだに世界各国で意見が分かれている。

確かに、そのような完全自律型兵器はまだ存在しない。だがAIやその他のキーテクノロジーの進歩は目覚ましく、AI分野への高額な投資を考えても、数年以内に実戦配備が可能になる恐れがあると活動家らは警鐘を鳴らす。

スイスはAI開発の先進国だ。AIは、人間のように考えて判断できるよう学習するソフトウェアで、大量のデータを処理して学んでいく。

スイスでも多くのスタートアップ企業がロボットやアプリ、デジタルアシスタントといった学習能力を持つシステムを開発しており、ビッグデータのおかげで生活の利便性が向上している。だが企業は、開発過程で常に倫理上の問題にぶつかる。この問題の根本的な部分は、主に技術を販売したいだけの企業が、どこで線引きをするか決めかねてしまうという点にある。

特に「研究」と「具体的な用途」が交わる時に、この点が浮き彫りになる。例えば、スイスの大学は米軍を資金元とするプロジェクトにも参加しており、その分野は空域監視カメラから自律制御の偵察用ドローンまで多岐に渡る。

スイスの目標

AIをめぐる倫理基準の構築において、スイスは世界のパイオニア的役割を果たしたいと考えている。だが、そのためには一体どこから手を付けたら良いのか？その試みの1つとして、この新技術に対するユーザーの信頼度向上を目的とした「スイス・デジタル・トラスト・ラベル」がある。デジタルサービスに関するより多くの情報を提供し、透明性を生み出し、倫理的な価値観の尊重を保証するために考案された。

「このラベルは同時に、倫理的かつ責任ある行動が企業の競合上のメリットになるよう促すためのものだ」と、ラベルを推進するスイス・デジタル・イニシアチブのニニアネ・ペフゲン理事は言う。

AIに関するルールや、倫理的な境界線を明確に定義する必要があるという点において、意見は幅広く一致している。連邦政府はこのため、省庁横断の作業部会「人工知能」を設置し、昨年11月末に行政上のガイドライン「人工知能」外部リンクを採択した。

同部会が連邦政府に提出した報告書外部リンクには、「AIの持つ新しい可能性を利用することはスイスにとって重要」で、「そのため、スイスはAIの研究、開発、応用の分野で世界有数の革新的な拠点としての地位を確立し発展すべく、できる限り最適な枠組みを整えることが不可欠である。同時に、AI活用に伴うリスクにもアプローチし、タイムリーに対処すべきだ」とある。

2021年8月、連邦内閣は「コンぺテンツ・ネットワーク・アーティフィシャル・インテリジェンス」（KNW AI）の設立を決めた。同ネットワークの構築は直ちに始め、2022年春には運用を開始する予定だ。このネットワークは、連邦政府の内外のネットワークや、AI分野の包括的なトピックに関する窓口となる。

異なる道徳の概念

一方で、国際的に拘束力のあるガイドラインを求める声も多方から上がっている。欧州委員会の専門家グループは2018年末、AIに関する最初の倫理ガイドライン外部リンクを発表した。

2023年12月、欧州議会、欧州委員会、EU加盟国はついに、AI利用に関し拘束力のある規則に合意した。2024年3月には欧州議会がAI規制法案を可決。世界に先駆けての包括的法制となった。

規則は、市民と民主主義に「容認できない」リスクをもたらすAIシステムを禁止することを目的としている。心理操作、社会的分類、人種・性的・宗教的プロファイリングのために機密性の高い個人データを使用するシステムなどが対象となる。

EUはこの決定を「歴史的瞬間」と表現した。

このようなガイドラインや意思表明は、既に数多く存在する。ところが連邦工科大学チューリヒ校（ETHZ）の保健倫理・政策研究室が系統的に分析したところ、84種類の関連文書の中に共通の倫理原則が1つもないことが判明した。

「透明性」、「正義と公平性」、「危害の防止」、「責任」、「データ及びプライバシー保護」という5つの基本的な価値観は、現存の宣言の半数以上で言及されていた。

AI倫理を巡る議論はまた、グーグルのような巨大テック企業の間でも白熱している。グーグルは2021年、2人のAI倫理専門家を突然解雇した。この問題が発端で、AI倫理規範の確立に対する同社の「本気度」に疑問が噴出している。

連邦工科大学の新しいAIセンターは、少なくとも欧州の道徳的価値観に焦点を当てている。各学部におけるAI研究の集約を目的とする同センターは、常に「人間」に焦点を当てて研究を行うとアレクサンダー・イリッチ主任は言う。

「新しく何かを創造する者には、同時にそれに対する責任がある。だからこそ我々は対話に参加し、AIアプリケーションの開発において欧州の価値観を取り入れるよう、積極的にアピールしていくことが重要だ」（イリッチ氏）

AIを使用する最も大きな理由は、AIが私たちの生活をシンプルにすることができ、チャットGPTのように面倒な作業を請け負ってくれることだろう。主に時短がそのメリットだが、AIが人命を救うこともある。狭い空間でも使えるレスキュードローンにAIを組み込んだケースなどがその一例だ。

欧州議会のシンクタンクの試算では、AIは2030年までに世界の温室効果ガス排出量削減に1.5～4％貢献できるという。これは概算して全ての航空交通が排出する量に相当する。

政府の作業部会は、「エネルギー供給、食糧、住宅、移動手段の分野におけるシステム変革をめぐる課題は大きい」とし、AIが「これらの課題に対処するためのキーテクノロジーとして重要な役割を果たす」と報告している。

新型コロナウイルスの大流行を受け、数多くのサービスが事実上一夜にしてデジタル化され、日常生活におけるAIが本格的に促進された。学校や病院といった公共施設の消毒に使われるロボットもその一例だ。

失業への不安

だがAIに批判的な人は多い。世界的に有名な宇宙物理学者スティーブン・ホーキング博士は、「AIの到来は、人類史上最善の出来事になるか、最悪の出来事になるだろう」と述べている。また、AIとロボットは仕事だけでなく人間そのものを危険にさらすかもしれないと「殺人ロボット」の批判者は警告する。

こういった懐疑論は一般社会でも広がりつつある。産業界がすでに次々とシステム改革を進める中、ビッグデータ、AI、商品のネットワーク化、3Dプリンターといった新しいテクノロジーは、従業員に求められるスキルを大きく変えようとしている。そして単純作業はますます機械に取って代わられるだろう。

そのため、職場でのAIの活用が遅かれ早かれリストラにつながるのは想像に難くない。研究が示すように、自動化システムは現在人間が行っている仕事の半分以上をより速く効率的にこなせる。

スイスの研究者クサヴィア・オーバーソン氏は、従来人間が行っていた仕事をロボットに置き換える場合、「ロボット税」を導入するよう提案する。そして税収は社会保障制度の財源や、失業者向けの研修制度に活用すべきだと提言する。

だが、この議論の中で消費者は置き去りになっていないだろうか？AIの応用に懐疑的な消費者は多いが、調査外部リンクによると、市民の懸念はAIが人類を一掃したり支配したりするという驚異より、むしろデータの安全性にある。そのためユーザーに対し技術を透明化するようメーカーへの圧力が高まっている。

イリッチ氏は、AIセンターの目標を例に取りこう話す。「AIは実際に何ができるのか、人々との対話を通して示したい。分かり易い具体例は多い。特に医療やデジタルヘルスの分野で今起きていることは、全ての人に該当し、分かり易く、多くのメリットをもたらすものだ。そしてAIは人間を置き換えるためではなく、サポートするためにあると伝えたい」

（独語からの翻訳・シュミット一恵）