KI-Deepfakes: Was die Schweiz dagegen unternimmt

KI und Social-Media-Plattformen haben die Verbreitung von Deepfakes beschleunigt. Copyright (C) 2026 Ascannio / Shutterstock.

Im Internet tauchen immer mehr unechte Bilder, Videos und Tondateien auf – Deepfakes. Ihr Zweck: Diffamierung, Irreführung, Stiften von Verwirrung. Die Schweiz versucht wie viele andere Länder auch, dieses wachsende Problem einzudämmen.

Mit den heutigen KI-Tools haben Ausmass und Umfang von Deepfakes massiv zugenommen. Mit den neusten KI-Modellen ist es ein Kinderspiel, vom eigenen Computer aus und ohne Vorkenntnisse gefälschte Bilder, Videos oder Audioinhalte zu erstellen.

Zu den jüngsten Beispielen für die Verbreitung von Deepfakes zählen so genannte «Nudifier»-Apps, die Nacktbilder von Menschen generieren, darunter auch von Minderjährigen.

Ein anderes Beispiel sind gefälschte Videos mit Prominenten, die für betrügerische Investitionsplattformen werben – viele haben durch diese Masche viel Geld verloren.

Auch in der Politik werden Deepfakes immer häufiger genutzt, um das eigene Image zu pflegen oder politische Gegner:innen zu attackieren. Auch wird zunehmend befürchtet, dass KI-generierte Deepfakes von Staaten wie Russland eingesetzt werden, um demokratische Systeme in westlichen Ländern zu untergraben.

Das Cybersicherheitsunternehmen Deepstrike gibt an, dass die Zahl der aufgedeckten Fälle von 500’000 im Jahr 2023 auf über acht Millionen im vergangenen Jahr gestiegen ist.

Die Schweizer Plattform Clickandstop.ch, die zur Erfassung von Cybermobbing und sexualisiertem Missbrauch an Kindern ins Leben gerufen wurde, verzeichnete im vergangenen Jahr einen Anstieg der gemeldeten Fälle um 63%.

«Es melden sich immer mehr Menschen bei uns, weil Nacktfotos von ihnen mithilfe von KI erstellt und verbreitet wurden», so die Plattform, die von Organisationen wie Kinderschutz Schweiz unterstützt wird.

Allerdings erfassen die Daten allein weder das Leid der einzelnen Opfer noch den Verlust des öffentlichen Vertrauens in die Wahrheit oder die Bedrohung für die Demokratie.

Der Tages-Anzeiger deckte auf, dass in öffentlichen Telegram-Foren gefälschte Sexvideos und Nacktfotos zahlreicher Frauen verbreitet wurden, darunter auch von Influencerinnen.

Aufgrund solcher Fälle mehren sich die Stimmen, die ein schnelleres und gezielteres Vorgehen gegen das sich verschärfende Problem fordern. «Handeln wir nicht, senden wir als Gesellschaft ein fatales Signal: Es ist irgendwie in Ordnung, aus realen Frauen virtuelle Sexmaschinen zu machen», schrieb der Tages-Anzeiger in einem Kommentar.

Deepfakes stellen eine Bedrohung für die persönliche Integrität und den sozialen Zusammenhalt dar. Dass ein Gesetz dieser Bedrohung gerecht werden muss, ist weitgehend unbestritten. Über die konkrete Umsetzung aber scheiden sich in der Schweiz und anderswo die Geister.

Stärkung der rechtlichen Gegenmittel

In der Schweiz sind sich Behörden und Parlament uneinig über die Richtung, das Tempo und den Umfang der Gesetzesänderungen, die zur Bekämpfung von Deepfakes erforderlich sind.

Im vergangenen Jahr lehnte das Schweizer Parlament eine Motion ab, in welcher der Grüne Nationalrat Raphaël Mahaim forderte, die Bekämpfung von Deepfakes gesetzlich zu verankern.

Im Juni dieses Jahres nahm das Parlament auf Antrag des Bundesrats jedoch eine weitere Motion von Mahaim an, die speziell auf sexualisierte Deepfakes abzielt. Diese wurde nach dem Skandal um «Nudifier»-Deepfakes eingereicht, die von der KI-Plattform Grok generiert wurden, die in die Social-Media-Plattform X integriert ist.

Mahaims zweite Motion fordert, dass KI-Plattformen dazu verpflichtet werden, «Risiko- und Schadenabschätzungen hinsichtlich der Erstellung von sexualisierten Deepfake-Inhalten vorzunehmen sowie Schutzmassnahmen zu ergreifen», sollten die Anwendungen in der Lage sein, solche Inhalte zu generieren. Die Motion fordert zudem eine Prüfinstanz, die Sanktionen gegen Plattformen verhängen könnte, die sich nicht daran halten.

Bundesrat Albert Rösti, dessen Departement unter anderem für Kommunikation zuständig ist, hatte in früheren Debatten im Nationalrat erklärt, das Straf- und Zivilrecht reiche aus, um Missbrauch durch Deepfakes zu bekämpfen.

Zudem habe die Schweiz die KI-Konvention des Europarats unterzeichnet, um Demokratie, Rechtsstaatlichkeit und Menschenrechte vor Missbrauch durch KI zu schützen.

Im Rahmen dieser Verpflichtung wird das Justizdepartement Empfehlungen dazu ausarbeiten, wie bestimmte Aspekte des Schweizer Rechts angepasst werden könnten.

David Vasella, Partner der Anwaltskanzlei Walder Wyss und Gründer der Plattform Datenrecht.ch, rechnet jedoch angesichts der aktuellen Strategie des Bundesrats nicht damit, dass es zu einer umfassenden Gesetzesrevision kommt.

«Bestimmungen speziell für Deepfakes zusätzlich zu geltendem Recht könnten neue Probleme in Sachen Rechtsklarheit schaffen», sagt Vasella und warnt davor, das Rechtssystem durch sich überschneidende Vorschriften zu verkomplizieren. «Neue Bestimmungen zu fordern, ist einfach – dies mit Bedacht zu tun, ist hingegen schwierig.»

Stattdessen plädiert der Anwalt dafür, Einrichtungen wie den Eidgenössischen Datenschutz- und Öffentlichkeitsbeauftragten zu stärken – eine Aufsichtsbehörde, welche die Bevölkerung vor dem Missbrauch ihrer Daten schützt.

«Ein neues Gesetz ohne angemessenen Vollzug sieht zwar gut aus, bringt aber nichts», sagt Vasella. «Eine Verdopplung der Ressourcen für die Datenschutzbehörde könnte eine weitaus grössere Wirkung haben. Anstatt neue Gesetze zu erlassen, sollten wir die bestehenden besser durchsetzen.»

Plattformen zur Rechenschaft ziehen

Diese Haltung frustriert viele in der Schweiz. Das Vorgehen wird teilweise als unentschlossen und zögerlich empfunden. Im März unterstützte eine parteiübergreifende Gruppe von Parlamentarier:innen eine Volksinitiative, die Regelungen zum Schutz vor digitalen Gefahren fordert.

Sollten genügend Unterschriften für die «Internet-Initiative» gesammelt werden, kommt es zwingend zu einer Volksabstimmung über die «Grundrechte und die Demokratie im digitalen Raum». Dazu gehören Massnahmen gegen Desinformation, sexualisierte Gewalt und Cyberkriminalität.

Technologieplattformen würden dazu verpflichtet, Beschwerden aus der Öffentlichkeit zu untersuchen und «notwendige Gegenmassnahmen» gegen schädliche Inhalte zu ergreifen.

+ Lesen Sie unsere Serie zur Ethik der künstlichen Intelligenz

Der Bundesrat hat einen eigenen Gesetzesentwurf vorgelegt, um Social-Media-Plattformen und Suchmaschinen für die Verbreitung missbräuchlicher und falscher Inhalte zur Rechenschaft zu ziehen.

Der Gesetzentwurf ist jedoch bezeichnend für die langsamen Fortschritte in diesem Bereich. Vom Bundesrat ins Gespräch gebracht wurde der Entwurf bereits 2023, tatsächlich vorgelegt jedoch erst im vergangenen Oktober.

Bis ins Parlament hat es der Text noch gar nicht geschafft. Der Gesetzesentwurf, der sich hauptsächlich gegen grosse US-amerikanische Tech-Unternehmen richtet, verzögerte sich im vergangenen Jahr aufgrund der Zollverhandlungen mit den USA.

Er soll die grössten digitalen Plattformen dazu verpflichten, ein Verfahren zur Verfügung zu stellen, mit dem Tatbestände wie Verleumdung, Beschimpfung, Diskriminierung und Aufruf zu Hass gemeldet werden können.

Die Unternehmen wären verpflichtet, eine Rechtsvertretung in der Schweiz einzurichten und ihre Entscheidungen über die Entfernung von Inhalten oder die Sperrung von Konten öffentlich zu begründen.

Die Schweizer NGO Algorithm Watch hat den Gesetzentwurf als «wichtigen Meilenstein» begrüsst, aber auch darauf hingewiesen, dass das Gesetz dann wirksam durchgesetzt werden müsse, damit es «nicht einfach zu einem zahnlosen Papiertiger verkommt».

Mit Technologie gegen digitalen Betrug

Wie sich die Politik auch entscheidet: Tech-Unternehmen spielen auch dabei eine Rolle, Deepfakes einzudämmen. Mehrere Tech-Firmen, darunter auch Schweizer Unternehmen, haben sich darauf spezialisiert, Deepfakes aufzudecken, indem sie digitale Spuren untersuchen, die auf Manipulation hindeuten.

Allerdings werden die Deepfakes neuerer KI-Modelle immer glaubwürdiger, dementsprechend müssen die Entwickler:innen von Erkennungssystemen ihre Ermittlungsmethoden ständig anpassen – ein Katz-und-Maus-Spiel.

Forschende der ETH Zürich gehen das Problem aus einem anderen Blickwinkel an: Sie weisen die Echtheit von Originalinhalten mithilfe verschlüsselter digitaler Signaturen nach.

Das Team der ETH hat eine neuartige Sensortechnologie für Kameras und andere Aufnahmegeräte entwickelt, die digitale Inhalte bereits im Moment ihrer Erstellung mit einer Art Wasserzeichen versieht. So lässt sich der Unterschied zwischen dem Original und manipulierten Kopien erkennen.

«Deepfakes sind ein ‹Denial of Truth›-Angriff, also ein Versuch, die Wahrheit zu leugnen», sagt Fernando Cardes, Mitentwickler des kryptografischen Systems für digitale Signaturen der ETH. «Wir stellen Ankerpunkte der Authentizität bereit, damit man prüfen kann, was echt ist und was nicht.»

Dieses Grundprinzip ist nicht neu. Die Coalition for Content Provenance and AuthenticityExterner Link (C2PA) ist ein globales Konsortium aus Technologie-, Medien- und Verlagsunternehmen und entwickelt seit 2021 verschiedene Methoden zur Authentifizierung digitaler Inhalte, darunter kryptografische Signaturen.

Das ETH-Team ist überzeugt, dass ihr Provenance-System gegenüber anderen Methoden, die Signaturen auf Softwareplattformen einprägen, eine Verbesserung darstellt.

Die Trennung von Erstellung und Signierung von Daten gibt böswilligen Akteuren laut Cardes die Möglichkeit, durch einen Hardware-Hack einen Keil zwischen beide zu treiben.

«Die Daten müssen auf demselben Sensorchip signiert werden, der sie erfasst», sagte er. «Das erschwert Manipulationen erheblich und legt die Messlatte im Vergleich zu anderen Ansätzen höher.»

Nach der öffentlichen Präsentation seiner Lösung steht das Schweizer Forschungsteam nun vor der Aufgabe, Kamerahersteller und andere Unternehmen davon zu überzeugen, die Technologie einzuführen.

Editiert von Gabe Bullard/VdV, Übertragung aus dem Englischen: Lorenz Mohler/raf