So beeinflussen KI-Übersichten von Google die Demokratie in der Schweiz

Der Abstimmungskampf zur Initiative "Keine 10-Millionen-Schweiz!" war polarisiert. Algorithm Watch CH und die Universität Zürich haben die KI-Übersichten untersucht, die bei Google und Bing häufiger vor Suchergebnissen erscheinen. Gian Ehrenzeller / Keystone

Untersuchungen zeigen, wie KI subtil an der Meinungsbildung von Bürger:innen in der Demokratie mitwirkt. Die Organisation AlgorithmWatch CH fordert mehr Transparenz von den KI-Unternehmen und griffige Regulierung.

Es ist ein Faktor in der demokratischen Debatte, der oft unbewusst bleibt: KI verändert, wie sich Menschen informieren. «Die Bedeutung von KI-Übersichten für die demokratische Meinungsbildung wächst», sagt Corinna Hertweck, Forscherin bei der zivilgesellschaftlichen Organisation AlgorithmWatch CH.

Während dem Abstimmungskampf zur Initiative «Keine 10-Millionen-Schweiz» hat AlgorithmWatch CH zusammen mit dem Institut für Informatik der Universität Zürich über 170’000 automatisiert generierten Suchanfragen ausgewertet. Dabei untersuchten sie, wie oft auf eine Anfrage bei den Suchmaschinen Google und BingExterner Link hin eine automatisierte KI-Übersichtsantwort erscheint und mit welchen Quellen.

In der Untersuchung erhielten 43% der Google-Anfragen eine KI-Übersicht als Antwort. Rund ein Drittel der herbeigezogenen Quellen waren ausgewogen – vor allem journalistische Beiträge oder Behördenwebseiten.

Weiter haben sie sich unter anderem angeschaut, wie viele der Quellen, die in allen KI-Übersichten verlinkt waren, dafür oder dagegen sind. Es zeigte sich: Mehr verwendete Quellen standen der Initiative kritisch gegenüber. Doch bei AlgorithmWatch CH wird betont, dass dies nichts darüber aussagt, welche Schlagseite die Antwort der KI-Übersicht hat.

In der Regel listet die KI-Übersicht zwar Pro- und Kontra-Argumente. «Aber manchmal bekommt die eine Seite einen längeren Text, während die andere in einem Nebensatz erwähnt wird», schildert Hertweck. Doch dies sind erst Eindrücke. Die quantitative Auswertung, wie ausgewogen die Antworten sind, steht noch aus.

Framing kann die Meinungsbildung beeinflussen

Die subtile Beeinflussung findet Hertweck beunruhigend. «Millionen Menschen nutzen Google und bekommen solche KI-Übersichten ausgespielt», sagt Hertweck, «Da kann so subtiles Framing die Meinungsbildung beeinflussen.»

Im polarisierten Abstimmungskampf um die Initiative «Keine 10-Millionen-Schweiz» der rechtskonservativen SVP untersuchte auch die Zürcher Werbeagentur Feinheit Chatbots und KI-Übersichten. Deren Auswertung kam zum Schluss: ChatGPT und Google Gemini betonten häufiger Nein-Argumente. Die KI-Übersichten von GoogleExterner Link seien «auf der Seite der Initianten» gestanden, so Feinheit.

Die Initiative «Keine 10-Millionen-Schweiz» überzeugte keine Mehrheit. Lesen Sie hier mehr über die Abstimmung:

Wissenschaftler:innen der Universitäten Maryland und WashingtonExterner Link haben aufgezeigt, dass KI-Übersichten besonders Nutzende «mit geringerer Themenkenntnis oder grösserem Vertrauen in KI» überzeugen. Dementsprechend ist die Rolle von KI-Modellen als vermeintlich neutrale Informationsvermittler in der Schweizer direkten Demokratie wichtig.

«Wenn ich Google eine Frage stelle, sehe ich oft nicht mehr mehrere Links an oberster Stelle, sondern einfach eine KI-generierte Antwort», sagt Hertweck, «Die klingt plausibel, die hat eine Autorität.» Nachweislich nehmen die «Zero-Click-Searches» zu, die Anfragen, bei denen Nutzende Google nicht verlassen. «Da ist man verleitet weniger kritisch zu reflektieren», so Hertweck.

Der Unterschied zwischen dem Abstimmungsbüchlein und KI-Übersichten

In der Schweiz gehört die Auseinandersetzung darüber, ob und wann eine Information neutral ist, zur demokratischen Debatte. Manchmal entzündet sie sich an der Berichterstattung der öffentlich-rechtlichen Medien, zu denen auch Swissinfo gehört.

Noch heftiger kann sie sich am sogenannten Abstimmungsbüchlein entfachen, das Schweizer:innen mit den Stimmunterlagen bekommen. Informationen müssen neutral sein; Argumente und Meinungen von Befürwortenden und Gegner:innen denselben Raum bekommen. Anders ist es natürlich bei Abstimmungswerbung, die nicht finanziell gedeckelt ist. Die öffentliche Präsenz hängt entsprechend stark vom Budget ab.

Lesen Sie auch unsere Auswertung über die Rolle von Spenden und Geld in der Schweizer Politik:

Mit den KI-Übersichten der Suchmaschinen und den Chatbots wird nun aber eine Informationsquelle wichtiger, die sich in der Schweizer Demokratie ohne demokratische Debatte breitgemacht hat – und bei der unbekannt ist, auf welcher Grundlage sie ihre nüchtern daherkommenden Antworten generieren.

AlgorithmWatch CH sieht Medienvielfalt bedroht

Darum fordert Hertweck: «Die Öffentlichkeit braucht Transparenz über die Art und Weise, wie KI-Übersichten zustande kommen.» Es sei eine Bedrohung für Medienvielfalt und zuverlässige Information, dass «die Marktmacht bei ganz wenigen Unternehmen liegt».

Sie betont auch eine wirtschaftliche Sackgasse, in die die «Zero-Click-Searches» auf Google führen: «Wenn man auf Google bleibt, schwächt das die Medienvielfalt. Den Medienhäusern fehlen die Klicks, dann fehlt die wirtschaftliche Grundlage für guten Journalismus.»

Am Ende würden die verlässlichen Quellen wegbrechen, auf denen die KI-Übersichten basieren. Ohnehin findet Hertweck, dass Unternehmen wie Google anerkennen sollten, dass sie Inhalte nicht mehr nur vermitteln, sondern in Form der KI-Übersichten auch welche selbst erstellen.

Einige internationale Beobachtende hoffen auf Schweizer KI als Treiber einer demokratischen Entwicklung. Lesen Sie auch unseren Artikel zu diesem Thema:

Sie spricht auch von einem «Graubereich» im Schweizer Gesetzesentwurf über Kommunikationsplattformen und Suchmaschinen. «Die Integration von generativer KI ist da nicht explizit mitreguliert, obwohl wir dies immer häufiger sehen – eben zum Beispiel bei den KI-Übersichten», führt Hertweck aus.

«Es geht so wahnsinnig schnell»

Hertweck leitet bei AlgorithmWatch CH das Forschungsprojekt «RAISD». Generative KI wirkt sich auf die Demokratie aus, weil sie eine Rolle spielt bei der Meinungsbildung von Einzelnen. Diese Einzelnen können natürlich auch selbst in der Politik sein. «Neben den KI-Übersichten wollen wir uns zum Beispiel anschauen, wie Chatbots in der Politik eingesetzt werden – wenn Politiker:innen oder ihre Angestellten Chatbots verwenden. Das kann weitreichende Folgen haben, wenn die Chatbots dabei beteiligt sind, Gesetze zu entwerfen», sagt Hertweck zu den künftigen Plänen.

Das Forschungsprojekt «RAISD» untersucht bis 2028 die Wechselwirkung von KI, Demokratie und Gesellschaft. Eine Prognose, wie generative KI dann aussehen wird, wagt Hertweck nicht. «Es geht so wahnsinnig schnell. Für die Politik und die Forschung ist das eine Herausforderung», so Hertweck.

Oxford-Studie: KI kann «kollektive Meinung steuern»

Die KI spielt auch eine Rolle bei der Debatte von Mensch zu Mensch. Eine neue Studie der Universitäten Oxford und Potsdam zeigt, dass Nutzende ihren eigenen Texten nicht vertrauen können – wenn sie sie der KI zum Verbessern geben.

«KI-vermittelte Kommunikation kann die kollektive Meinung steuernExterner Link» heisst die Studie. In dieser baten die Computerwissenschaftler:innen KI-Modelle darum, Meinungsposts zu «verbessern». Die KI-Modelle schwächten Meinungen ab oder verkehrten sie in ihr Gegenteil – zu Themen wie Abtreibung, Feminismus und Klimawandel.

Professorin Sandra Wachter und ihr Team berechneten dann, was in der Wechselwirkung passieren könnte: Wenn auf einen LinkedIn-Post, dessen Positionierung ein KI-Modell beeinflusst hat, eine Antwort erfolgt deren Position wiederum von einem KI-Modell beeinflusst worden ist, verschiebt sich nach und nach die Diskussion. Für die Beteiligten, aber auch für Aussenstehende, die die Debatte beobachten.

Pro-Life-Bias bei Grok

«Unsere Arbeit zeigt, dass wir eine grössere Diskussion darüber brauchen, was wir von Sprachmodellen und ihren Entwicklern halten, weil die Entscheidungstragenden dieser Risiken womöglich nicht bewusst waren, als sie den AI Act entwarfen», schreibt Wachter auf Anfrage. Im AI Act der Europäischen Union gibt es zwar eine Pflicht, KI-Inhalte zu labeln. Doch dieses Label betreffe vor allem Bild, Ton und Video. Es sei «unwahrscheinlich», dass Texte darunterfallen, so Wachter.

Die Studie kam zum Schluss, dass Grok, das KI-Modell von Elon Musk, ein Bias gegen Abtreibungen hat. Während alle KI-Modelle Biases haben, was oft mit den Daten und Inhalten zusammenhängt, mit denen sie trainiert worden sind, hat Wachters Team Nachweise gefunden, dass ein bestimmter Prompt seiner Entwickler dazu führt, dass Grok zu einer Pro-Life-Haltung tendiert.

Editiert von Samuel Jaberg/jg

Abonnieren Sie unseren Newsletter, wenn Sie sich für unsere Hintergründe zu Demokratie-Themen interessieren: