ディープフェイクの脅威に立ち向かうスイス

AIやソーシャルメディアプラットフォームによって、ディープフェイクの普及が加速している Copyright (C) 2026 Ascannio / Shutterstock.

ディープフェイク（AIを使って作られた精巧な偽動画などを指す）の中傷被害が深刻化している。スイスも対策に乗り出した。

最新の人工知能（AI）ツールの普及で、ディープフェイクの規模と範囲が飛躍的に拡大した。AIモデルを使えば、誰でも自宅で画像や動画、音声コンテンツの偽物を作成できてしまう。専門知識は必要ない。

最近問題になったディープフェイクは、人の裸の画像を生成する、いわゆる「ヌード化アプリ」だ。未成年も被害に遭っている。詐欺師たちは、架空の投資話を著名人が「推薦」しているように見せかける動画を使い、人々から金銭をだまし取ってきた。

自身のイメージアップや対立候補への攻撃目的で、政治家がディープフェイクを利用するケースも増えている。それどころか、ロシアなどの外国政府が、AIが生成したディープフェイクを使って西側民主主義諸国を混乱させようとしているとの懸念も強まっている。

サイバーセキュリティー企業のディープストライクによると、検出された被害件数は2023年の50万件から、昨年は800万件以上に急増した。子どもへのネットいじめや性的虐待の事案を記録するために設立されたスイスのプラットフォーム「clickandstop.ch」も、昨年の通報件数が63％増加したと発表した。

スイス児童保護基金などの支援を受けている同プラットフォームは、「自分の裸の写真がAIを使って生成・拡散されたと名乗り出てくる人も増えている」と述べている。

ただの統計だけでは、被害者一人ひとりの苦しみも、真実に対する社会的信頼の崩壊も、民主主義への脅威も測ることはできない。たとえばドイツ語圏の日刊紙ターゲス・アンツァイガーの調査報道では、著名なインフルエンサーを含む多数の女性の偽セックス動画や偽ヌード写真が、Telegram上の公開フォーラムで出回っていたことが明らかになった。

そのような事例を受け、ディープフェイク対策を喫緊に講じるべきだとの声が強まっている。「私たちが社会として行動を起こさなければ、『生身の女性をバーチャルなセックスマシンに変えてもかまわない』という、とんでもないメッセージを発することになる」と同紙は論説記事で訴えた。

しかし、個人の尊厳や社会の結束を脅かすディープフェイクに法的措置を講じる必要があるという認識は広がっているものの、スイスを含む各国の政界では、具体的な方策をめぐり意見が分かれている。

法の強化

ディープフェイク対策には法改正が必要になるが、その方向性とペース、範囲をめぐっては、スイス当局者のあいだでも見解が一致していない。昨年、緑の党（GPS/Les Verts）のラファエル・マハイム議員がディープフェイク対策の法整備を求める動議を連邦議会に提出したが、否決された。

しかし、ソーシャルメディアの「X」に統合されたAIプラットフォーム「Grok」が生成したヌード系のディープフェイクが大きなスキャンダルとなった事例を受け、政府と国民議会（下院）は今年6月、性的なディープフェイクのみを対象としたマハイム氏の追加動議を受け入れた。

マハイム氏の追加動議は、性的なディープフェイクコンテンツに関する「リスクと被害の評価を行い」、必要に応じて「防止策を講じる」ことをAIプラットフォームに義務付けるよう求めている。また、規則を守らないプラットフォームに制裁を科す権限を持つ監督機関の設置も要求している。

以前の議会討論では、アルベルト・レシュティ通信相が、ディープフェイクの悪用には現行の刑法・民法で十分対処できるとの見解を示した。レシュティ氏はまた、スイスはAIの悪用から民主主義と法支配、そして人権を守るために、すでに欧州評議会のAI条約に署名済みであることも指摘した。

対策の一環として、司法省はスイスの法体系の一部見直しに関する提言を行う予定だ。しかし、法律事務所ヴァルダー・ヴィスのパートナーで、データ法のプラットフォーム「datenrecht.ch」の創設者でもあるダヴィド・ヴァゼラ氏は、現在の政府方針のもとで法制の大幅刷新は行われないと予想している。

ヴァゼラ氏はスイスインフォに、「既存の法律に追加する形でディープフェイク専用の新法を作れば、法的な明確さという点でかえって新たな問題が生じかねない」と指摘し、複雑に重なり合う規制を増やすことに警鐘を鳴らした。「追加の規制を求めるのは簡単だが、それをうまく実行するのは難しい」

その代わりにヴァゼラ氏は、既存機関の強化を提案する。例えばデータの不正利用から人々を守る「連邦データ保護情報コミッショナー」などだ。 

ヴァゼラ氏は、「適切な執行が伴わない新法は、見た目はよくても実効性がない」と語る。「データ保護当局の人員を倍増させるほうが、はるかに大きな効果が期待できる。新法を作るより、既存の法律をしっかり執行すべきだ」

プラットフォームの責任

一部のスイス国民は、法改正に対する当局の姿勢があいまいかつ遅いと不満を募らせる。3月には超党派議員グループが、デジタル被害から人々を守るための規制を求めるイニシアチブ（国民発議）の支持を表明した。

この「インターネットイニシアチブ」は「デジタル空間における基本的人権と民主主義」を守るための規制を求めるもので、規定数の署名を集めれば国民投票が実現する。同イニシアチブには偽情報、性的暴力、サイバー犯罪対策も含まれている。

国民投票で可決された場合、テクノロジー企業は市民からの苦情を調査し、有害コンテンツに対して「必要な対抗措置」を取る義務を負うことになる。

スイス政府もまた、悪質なコンテンツや虚偽のコンテンツの拡散についてSNSプラットフォームや検索エンジンに責任を負わせることを目的とした独自の法案をすでに提出している。

しかし同法案は、この問題における進展の遅さを象徴する存在となっている。連邦政府が2023年に初めて提起したこの法案は、昨年10月にようやく正式に提出されたが、議会ではまだ審議さえされていない。おもに米国の大手テクノロジー企業を対象としたこの法案は、昨年の対米関税交渉のあいだ、審議が先送りにされてきた。

同法案は、大手デジタルプラットフォームに対し、名誉毀損や侮辱、差別、ヘイト扇動に関する苦情を正式に処理することを義務付ける内容だ。各社はスイス国内に法的代理人を設置し、コンテンツの削除やアカウント停止の判断について公に説明する義務を負うことになる。

スイスのNGOであるアルゴリズム・ウォッチはこの法案を「極めて重要」と歓迎したが、同時に「中身のない張り子の虎にならないよう」、適切に運用される必要があると警告している。

デジタル被害を減らすテクノロジー

政治家がどのような決断を下すにせよ、ディープフェイクの拡大を食い止めるうえでは、テクノロジー企業の関与が不可欠となる。スイス企業も含むいくつかのテック企業が、データ改ざんの際に生じるデジタル痕跡を特定してディープフェイクを検出する技術の開発に注力している。

しかし、最新のAIモデルはより本物らしいディープフェイクを作る方法を学びつつあるため、検出する側も技術を絶えずアップデートしなければならない。双方が相手の一歩先を行こうとする「いたちごっこ」の様相を呈している。

連邦工科大学チューリヒ校（ETHZ）の研究者たちは、異なる角度からこの問題に取り組んでいる。偽物を見つけるのではなく、暗号化されたデジタル署名を用いて、オリジナルコンテンツが本物であることを証明するという考え方だ。

ETHZの研究チームは、カメラなどの記録機器向けに新しいセンサー技術を開発した。コンテンツが生成された瞬間に、ある種の電子透かしをデジタルコンテンツに刻み込む。これにより、本物のオリジナルコンテンツと、のちに加工された複製とを区別できるようになる。

ETHZの暗号デジタル署名システム共同開発者フェルナンド・カルデス氏はスイスインフォに対し、「ディープフェイクは真実を否定する攻撃だ」と話す。「私たちは、どれが本物かを誰もが正確に判断できるようにするために、本物を証明する手段を提供しようとしている」

基本原理自体は新しいものではない。テクノロジー、メディア、出版業界各社が手を結んで立ち上げた国際団体「コンテンツの来歴と真正性のための連合外部リンク（C2PA）」は、2021年から暗号署名をはじめとするデジタルコンテンツの真正性を証明する方法の開発を続けてきた。

しかし、ETHZの研究者たちは、自分たちの真正性証明システムは、署名をソフトウエア上に刻むほかの手法よりも優れていると信じている。カルデス氏は、データ取得と署名生成という二つの過程を切り離すと、悪意ある第三者がその隙を突いてハードウエアに侵入し、不正を行う恐れがあると指摘する。

同氏はこう説明する。「データを取得するのと同じセンサーチップ上で署名を生成することが重要だ。そうすることで、ほかの手法を用いるよりもデータの改ざんが格段に難しくなる」

スイスの研究チームはすでにこのソリューションを公表している。カメラメーカーをはじめとした各企業に、この技術の採用を働きかけることが次の課題となる。

編集：Gabe Bullard/VdV、英語からの翻訳：長谷川圭、校正：宇田薫