Schweizer Bundesrätin gegen KI-Chatbot Grok: Es geht um digitale Gewalt und Redefreiheit

Die Schweizer Bundesrätin Karin Keller-Sutter geht gegen den von Grok erstellten Beitrag eines X-Nutzers vor. Keystone / Til Buergy

Karin Keller-Sutter hat Strafanzeige gegen Online-Beleidigungen via den KI-Chatbot Grok erstattet. Ihre Anzeige ist ein Zeichen gegen digitale Gewalt – und eine Distanzierung vom US-Verständnis der Redefreiheit.

Die Schweizer Bundesrätin Karin Keller-Sutter geht gegen einen sexistisch herabwürdigenden Inhalt, den Elon Musks KI erstellt hat, mit einer Strafanzeige vor.

Das KI-Modell, das sich selbst «MechaHitlerExterner Link» nannte, beleidigt nicht nur bereitwillig, sondern generierte für einige Zeit Anfang 2026 stündlich tausende sexualisierte Deepfake-BilderExterner Link von Frauen und Kindern. Einen «Pädo-Chatbot» nannte es das US-Magazin «The NationExterner Link». Die Europäische Union hat wegen den sexualisierten Deepfakes eine grosse Untersuchung gegen den KI-Chatbot GrokExterner Link lanciert.

Bei der Strafanzeige von Keller-Sutter geht es um schriftliche sexualisierte Herabwürdigung: Ein Schweizer Rentner hat am 10. März das KI-Modell in vulgärem, sexualisiertem Vokabular darum gebeten, Keller-Sutter zu «roasten». Das Resultat teilte er dann auf X (vormals Twitter). Mittlerweile ist der Beitrag gelöscht.

Meistens Frauen von digitaler Gewalt betroffen

Vor allem Frauen sind von digitaler Gewalt betroffen. Die Folgen für Betroffene reichen von Schlafstörungen bis zu Angstzuständen und seien gut belegt, erklärt Simone Eymann von der Public Discourse Foundation. «Gleichzeitig kann digitale Gewalt dazu führen, dass sich Betroffene aus der Öffentlichkeit zurückziehen, mit entsprechenden Auswirkungen auf unsere Demokratie», so Eymann.

Politisch engagierte Frauen sind in der Öffentlichkeit mehr digitaler Gewalt ausgesetzt als Männer. Fast jede vierte betroffene Frau in Deutschland überlegte sich deswegen bereits ihr aktuelles Engagement zu beenden, laut einer Studie der TU München und HateAidExterner Link.

Eymann begrüsst die Strafanzeige von Keller-Sutter: «Wenn öffentliche Personen nicht schweigen, sondern aktiv handeln, senden sie ein wichtiges Signal: dass digitale Gewalt ernst genommen werden muss.»

Mit ihrer Anzeige setzt die Bundesrätin ein Zeichen gegen digitale Gewalt. Andererseits geht es auch um Fragen der Rede- und Meinungsäusserungsfreiheit, wenn ein Regierungsmitglied gegen Beleidigungen vorgeht.

Wie wirken sich die Sozialen Medien auf die Demokratie aus? Sagen Sie uns Ihre Meinung:

Welche Äusserungen müssen Politiker:innen aushalten?

Jordi Calvet-Bademunt ist Rechtswissenschaftler bei «The Future of Free Speech», einer Denkfabrik an der Vanderbilt-Universität in den USA, die sich international mit der Redefreiheit auseinandersetzt. Gegenüber Swissinfo verweist er darauf, dass in den USA «beleidigende Rede, die auf Politikerinnen und Politiker zielt, grösseren rechtlichen Schutz» geniesse. «Ob der konkrete Inhalt, um den es in diesem Fall geht, nach schweizerischem Recht schutzwürdig ist, hängt von den Einzelheiten der Nachricht ab», so Calvet-Bademunt zu Swissinfo.

Die Denkfabrik «The Future of Free Speech» positioniert sich für eine weit ausgelegte Meinungsäusserungsfreiheit. Die Meinungsfreiheit schütze, so Calvet-Bademunt, «nicht nur harmlose Äusserungen», sondern auch «anstössige, schockierende oder verstörende». Dieser Schutz sei bei Äusserungen zu politischen Themen «einschliesslich Äusserungen über Politikerinnen und Politiker» besonders wichtig.

«Das bedeutet nicht, dass die Gesellschaft jede Form geschützter Meinungsäusserung gutheissen oder dulden muss, aber der Schutz kontroverser Äusserungen ist grundlegend für das Funktionieren unserer Demokratien», so Calvet-Bademunt.

Calvet-Bademunt sieht Keller-Sutters Anzeige als «Teil eines breiteren Trends in Demokratien», wonach KI-Skepsis bei Politiker:innen zu Restriktionsforderungen führe.

«Indien konfrontierte Google, als dessen KI-Modell darauf hinwies, dass manche Experten die Gesetze von Premierminister Modi «faschistisch» nennen. Die Türkei blockierte den Zugang zu Grok teilweise, nachdem der Chatbot Antworten lieferte, die Präsident Erdogan, Atatürk und religiöse Werte beleidigte.»

Die Türkei ist nach internationalem Massstab keine liberale Demokratie. Er nennt mit Polen aber auch einen EU-Mitgliedsstaat, wo sich Donald Tusk gegen Beiträge von GrokExterner Link gewehrt hat.

Vance-Rede in München über die Redefreiheit in Europa

Das Spezielle an X ist, dass neben vielen Bots weiterhin Behörden und Politiker:innen auf der Plattform sind. Auch Bundesrätin Keller-Sutter hat 2025 als Bundespräsidentin via X kommuniziert.

Als Bundespräsidentin sorgte Keller-Sutter Anfang 2025 selbst für Aufregung, als sie die Rede von US-Vizepräsident JD Vance an der Münchner Sicherheitskonferenz als «Plädoyer für direkte Demokratie» lobte.

Vance nannte in München 2025 viele Beispiele, warum es um die Redefreiheit in Europa seiner Meinung nach schlecht bestellt sei. Unter anderem, weil es in Deutschland Polizeieinsätze «gegen Bürger» gebe, die «unter Verdacht für anti-feministischen Online-Kommentare» stehen. Keller-Sutter hat ihr Lob für Vance kurz darauf relativiert.Externer Link

Die Grafik gibt eine Übersicht, wie wichtig der Bevölkerung die Redefreiheit ist, im Kontrast dazu, wie viel Meinungsäusserungsfreiheit die Bevölkerung eines Landes tatsächlich hat. In manchen Ländern, die nur eine sehr eingeschränkte Redefreiheit kennen, wie Venezuela, ist die Unterstützung für das Grundrecht trotzdem speziell hoch. Kai Reusser, Swissinfo

Im April 2026 erklärte ihr Sprecher in der Sonntagsausgabe der NZZExterner Link, Keller-Sutter habe im Zusammenhang mit ihrem Lob nur einen Teil der Rede beurteilt. Vulgäre Beschimpfungen gehörten nicht zur Meinungsäusserungsfreiheit und «sind in der Schweiz strafbar», so Keller-Sutters Sprecher in der NZZ. Es gelte, Hass gegen Frauen zu bekämpfen.

Droht der Schweiz nun ein Konflikt mit den USA?

Die NZZ hat schon im Titel geschrieben, warum Keller-Sutters Strafanzeige auch Geopolitik ist: «Jetzt droht ein offener Konflikt mit den USA». Die Strafanzeige richtet sich gegen den Rentner, der den Prompt geschrieben hat. Doch die Schweizer Justiz muss auch abklären, welche Verantwortung der Grok-Betreiber X, die Firma von Elon Musk, trägt. Die X Switzerland Gmbh äusserte sich bisher nicht zur Anzeige. Auch eine Anfrage von Swissinfo blieb unbeantwortet.

Die US-Regierung von Donald Trump reagiert oft hart gegen europäische Regulierung ihrer Tech-Konzerne. Sie hat sogar Sanktionen gegen Personen verhängt, die eine entscheidende Rolle in der Regulierung von KI und sozialen Medien in der EU spielen. Entsprechend könnte der Schweizer Regierung tatsächlich ein Konflikt drohen.

Die Redefreiheit in Trumps Amerika

Jordi Calvet-Bademunt sieht auch das Verhalten der US-Regierung als Teil des negativen internationalen Trends in der Redefreiheit. Er nennt als konkretes Beispiel den «beständigen Druck von Präsident Trumps Behörden» gegen das KI-Unternehmen Anthropic, weil dessen Chatbot zu «woke» sei.

In den USA gilt seit langem ein anderes Verständnis von Redefreiheit als in Europa. Doch dies scheint in der Bevölkerung zu bröckeln.

Nur 61% in den USA wollen, dass Beleidigung der Flagge möglich ist

Laut dem Future of Free Speech Index 2025Externer Link nimmt die Unterstützung für uneingeschränkte freie Rede unter US-Bürger:innen ab. 2024 waren noch um die 60% der US-Amerikaner:innen der Meinung, die Redefreiheit umfasse auch Aussagen, die beleidigend für Minderheiten sind, etwa 5% weniger als 2021. Gleichzeitig sind nur 61% der Meinung, die Redefreiheit umfasse Beleidigungen der US-Flagge – gar 10% weniger als 2021.

Der Index zeigt auch, dass selbst in den USA eine Mehrheit zwischen beleidigenden Individuen und der automatisierten Beleidigung via KI-Modell unterscheiden: Nur eine Minderheit findet, dass es KI-Modellen möglich sein soll, Inhalte zu produzieren, die ihre Religion oder die US-Flagge beleidigen. Nur jede:r Fünfte möchte, dass KI-Modelle Deepfakes von Politiker:innen erstellen können.

In der Schweiz wird Keller-Sutters Vorgehen gegen Grok wohl auf offene Ohren stossen.

Die Big-Tech-Firmen haben einen schlechten Ruf, wie kürzlich eine Befragung von Gfs.Bern ergeben hat.

9 von 10 Menschen in der Schweiz sehen diese Firmen als rein profitorientiert – und 84% machen sich Sorgen darüber, dass es «einen zu starken politischen Einfluss der Herkunftsländer dieser Unternehmen» gibt.

Lesen Sie auch unseren Artikel darüber, wie misstrauisch die Schweizer Bevölkerung den Big-Tech-Unternehmen gegenüber ist:

Wenige verbreiten viel Hass im Internet

Es sind wenige Menschen, die mit ihren Beiträgen sehr viel Hass im Internet streuen, wie eine Studie der ETH Zürich und der Public Discourse Foundation im Dezember 2025Externer Link zeigte.

«Nur 5% der Nutzenden schreiben 78% der Hasskommentare. Gezielte Moderation kann einen grossen Unterschied machen», erklärt Eymann von der Public Discourse Foundation.

Doch die grossen Plattformen wie X, Facebook oder Instagram haben bei der Moderation massiv abgebaut. Darum appelliert Eymann auch an die Nutzenden: «Empathische Gegenrede wirkt. Sie beeinflusst nicht nur die Verfassenden, sondern auch alle, die die Gegenrede lesen.»

Sie hält es für plausibel, dass «generative KI-Tools wie Grok» zur weiteren Verschärfung von «Umfang und Dynamik von Hassrede» im Internet beitragen. Beleidigende oder herabwürdigende Inhalte auf Knopfdruck sind schnell generiert. «Was früher Zeit und Aufwand erforderte, lässt sich heute in Sekunden erzeugen. Das betrifft auch Hassrede», so Eymann.

Editiert von Reto Gysi von Wartburg

Was ist Counterspeech und wie kann es als Strategie gegen Hass im Internet angewandt werden? Hier finden Sie unseren Beitrag zum Thema: