人工知能は直接民主主義と共存できるか？

スイスの新しいアルゴリズム「ボットドッグ」。ネット上のヘイトスピーチを嗅ぎ分ける訓練を受けている stophatespeech.ch

人工知能（AI）は民主主義にとって脅威だと考える人もいれば、大きなチャンスだと見る人もいる。スイスではアルゴリズムやビッグデータをどのように導入し、活用しようとしているのか。この分野の研究者と専門家が解説する。

スイスでは3カ月ごとに国民投票がある。投票前は議論が激化し、特にインターネット上では荒れることが多い。侮辱やむき出しのヘイト（憎悪）、さらには殺害の脅迫も珍しくない。スイス最大の女性組合連合アライアンス・エフ（Alliance F）のソフィー・アッハーマン代表は、これは民主主義を脅かす問題だと言う。

「白熱しても事実に基づいた議論を冷静に進めることが肝要だ。だがインターネット上のヘイトは多様な意見の交換を妨げる。人々はヘイトメッセージを恐れて主張を控えるようになるからだ」と同氏は指摘する。例えば昨年の農薬や飲料水に関するイニシアチブ（国民発議）の投票前に大量のヘイトメッセージが届いたことで公共の場に出たくなくなった女性政治家もいたという。これはスイスだけの現象ではない。世界中の政治家がインターネット上で攻撃されたり脅迫されたりすることが増えている。特に女性外部リンクやマイノリティーの人々が標的にされやすい。

そこでアライアンス・エフはヘイトスピーチに対応するアルゴリズム「ボットドッグ外部リンク」を開発した。これは犬のようにソーシャルメディア上のヘイトメッセージを嗅ぎつけてマーキング（印付け）するもので、印の付いた投稿にはボランティアグループが個別に返信する。インターネット上のヘイトを放置せずに対応することで冷静な議論を続行させることが狙いだ。

ボットドッグはまだテスト段階だが、初期実験は良好な結果を示している。同実験に携わった連邦工科大学チューリヒ校（ETHZ）とチューリヒ大学の研究者らは、ヘイトスピーチを受けた人への共感を訴える返信が特に功を奏したと報告している外部リンク。例えば「あなたの投稿はユダヤ人にとってとても苦痛です」という文面がヘイトスピーチの発信者を動かし、謝罪やメッセージの削除といった行動を起こさせた。

7月にはボットドッグを正式にオンライン化する予定だ。アッハーマン氏によれば、希望すれば誰でもこのプロジェクトに参加できるという。参加者はコメントを評価するか、ヘイトと認定されたメッセージに返信を書く。コメントの評価は、アルゴリズムが学習するデータの質を向上させ、ヘイトを含むコメントをより正確に認識できるようになる。

アルゴリズムと人間の協働

ボットドッグは人工知能（AI）が民主主義の強化に役立つほんの一例に過ぎない。ETHZのデューク・ヘルビング教授（計算社会科学）は、デジタル民主主義と呼ばれる、情報技術を利用して民主主義をより強力にする技術には多大な可能性があると見る。その１つは、都市や自治体の予算の使い道を市民が共同で決める市民参加型の予算編成だ。

この方式は既にチューリヒ市ウィプキンゲンで試行されている。住民たちはこれまでにデジタルプラットフォームを通じて、地域緑化、スケートボード場、ストリートフードフェスティバルについて決定した。各プロジェクトには4万フラン（約528万円）の税金が投入されている。

世界中の都市や地域をネットワークでつなげ、スポーツ競技会のように種々の課題について最適な解決策を競う、いわば都市オリンピックの開催もデジタル民主主義のアイデアの１つだ。例えば、持続可能な経済や二酸化炭素の削減、平和的共存の方策について競い合う。解決策と関連データはオープンデータとして誰でも自由に閲覧でき、AIモデル構築の学習データに利用できる。「私たちは一種のデジタル参加型社会に向かっていると思う」とヘルビング氏。つまり、アルゴリズムとボランティアが協力してインターネット上のヘイトに対抗して戦うボットドッグのように、AIと人間が協働する社会だ。

AIがデジタル民主主義にもたらす可能性は計り知れない。しかし、データ駆動でただ突き進むアプローチには「大きな威力があり、民主主義的、法治国家的、人権的な社会構造そのものを破壊するかもしれない」と同氏は懸念する。

良いことばかりではない

その理由は、私たちがどの情報を受け取り、どの商品を見せられ、その価格はいくらになるかをアルゴリズムが決定する機会が増え続けているからだ。アルゴリズムが、私たちが世界をどう見てどの問題が重要だと考えるかを決める。それが私たちの政治的思考や投票行動も支配しているとヘルビング氏は言う。

それは16年の米大統領選挙戦で明るみになった。ドナルド・トランプ氏の陣営はビッグデータとアルゴリズムを利用して標的の有権者向けにパーソナライズしたコンテンツを作成した。これを「私たちの思い通りに有権者が世の中を見て、私たちの希望通りの候補者に投票するようになるまで、ブログやウェブサイト、記事、ビデオ、宣伝広告などを通じて浴びせ続けた」と、ネットフリックスのドキュメンタリー番組「グレート・ハック：SNS史上最悪のスキャンダル」の中で、ブリタニー・カイザー氏が語った。同氏はこの選挙運動に関わった人物で、当時はデータ解析専門の英国の政治コンサルティング企業ケンブリッジ・アナリティカに勤務していた。同社は米大統領選前にフェイスブックのプロファイルから8700万人分の個人データを吸い上げ、史上最大のデータスキャンダルを引き起こした。

12年のバラク・オバマ米大統領（当時）2回目の大統領選挙運動の時も有権者が標的にされた。オバマ氏の陣営は可能な限り多くのデータを集め、それぞれの有権者にパーソナライズしたメッセージを送った。

AIを活用したこのような選挙手法がどれだけ候補者を勝利に押し上げたのか、確かなことは言えない。だがヘルビング氏らは、こうした手法に潜む大きな危険性を指摘する外部リンク。特に、個人情報を詳細に分析し選挙活動などを有利に進めるマイクロターゲティング手法と、人々に自発的選択を促したり誘導したりするナッジング手法（心理学用語）が、私たちの行動や感情、興味などに関するビッグデータと結び付くと、全体主義的な権力を生み出す可能性があると言う。

AI選挙戦 スイスの場合 

AIにとって何より必要なもの、それはデータだ。一般にデータが多いほど性能は向上する。スイスではデータ保護とプライバシーは尊重されている。米選挙戦で使われた手法はスイスでも可能なのだろうか？スイスの政党は有権者を標的にマイクロターゲティング手法を使えるのだろうか？

世論の測定に機械学習を応用する方法などについて研究するチューリヒ大学のルカス・レーマン助教（比較政治学）はそうは思わないと言う。

米国とスイスでは状況が異なるからだ、というのが同氏の論理だ。特にトランプ氏やオバマ氏の陣営が利用したような生データがスイスでは入手できない点を挙げ、「いずれの陣営もほぼ全ての米国民のデータを持っていた。この点がスイスとは完全に違う」と話す。

同氏は米国の大学在学中に短期間、ファッション系の企業で働いていた。そこでは顧客データ、つまり氏名、住所、誕生日にアクセスできた。それだけではない。顧客の推定年収、何人子供がいるか、どの車に乗っているか、住宅は賃貸か持ち家かまでも閲覧可能だった。

「米国ではこうしたデータを簡単に購入できる。それが政治にも利用される。私が知る限り、スイスではそのようなデータが政治運動に使われたことはない。より正確には、使われたことはまだない」（レーマン氏）

ここのポイントは「まだない」という部分だろうか？スイスでもいずれそのようなデータが容易に入手できるようになるのだろうか？ETHZのヘルビング氏によれば、世界のデータ化は多くの人が思っている以上にはるかに進んでいるという。

その一例として同氏は、ジュネーブに本部がある世界経済フォーラム（WEF）のサイバーセキュリティセンターを挙げる。そこでは米アマゾン、マスターカード、中国のファーウェイなどの世界中の組織や企業が参加し「非常に大量のデータを収集している」と言う。集まったデータは国連の許可の下で、特に持続可能な開発のための2030アジェンダ（SDGs）の実施に活用されているという。

「これはその（SDGsの実施などの）ために集めたものだろう。だが、それがどのように実施され、集めたデータを他のどのような目的に利用できるかについては追及すべきだ。非常に多くの企業が活動に関わっているため、商業的利益が社会的利益を上回る危険性がある」（ヘルビング氏）

もっと透明性を

AIが民主主義の脅威となることを防ぐため、法律や規制を今すぐ整備するべきだと専門家は警告する。

実効性のある規則を制定するにはアルゴリズムがどのように動くのかを具体的に知る必要があるが、そこに問題がある。なぜなら「フェイスブックなどのプラットフォームの中身は外部からは見えないブラックボックスになっているからだ。アルゴリズムの詳しい仕組みは分からないし、誰についてどのようなデータが収集されているのかについても正確には分からない」と非営利団体（NPO）アルゴリズム・ウォッチ（AlgorithmWatch）スイスのアンナ・メッツェナー最高経営責任者は話す。

ソーシャルメディア上のコンテンツをAIがどのようにチェックし情報収集・整理しているかは巧みに隠されている。アルゴリズム・ウォッチはドイツの新聞社スードドイチェ・ツァイトゥングと協力し、このAIアルゴリズムが選挙戦に与える影響を明らかにするための調査プロジェクト外部リンクを立ち上げ、21年のドイツ連邦議会選挙の前に、数百人のボランティアにインスタグラムのタイムラインのデータ提供を呼びかけた。具体的には、ボランティア参加者が全政党のプロファイルを購読し、各政党のコンテンツがユーザーのニュースフィードのどこにどう表示されたかをウェブブラウザのプラグインが記録する。その情報をユーザーがアルゴリズム・ウォッチに送る、という手法を取った。

調査の結果、極右政党の「ドイツのための選択肢（AfD）」のコンテンツが他の政党のものよりもニュースフィードの上位に表示されていたことが分かった。だが、その理由については調査では明らかにできなかった。

インスタグラムを傘下に置くコンツェルンの米メタ（旧フェイスブック）はこの調査を快く思っていなかったようだ。同社はアルゴリズム・ウォッチに対し、プロジェクトを中止しなければ「より正式な措置を取る」と脅迫した。その結果、データ提供は予定よりも早く打ち止めとなった。

メッツェナー氏は「このような研究が実施できない限り、プラットフォーム上でAIが収集したコンテンツが社会にどう影響し、とりわけ民主主義に極めて直接的な影響を及ぼす政治的意見の形成にどのように関わるかについて、根拠ある議論はできない」と話している。

（独語からの翻訳・佐藤寛子）