Frankensteins Monster: Was uns Mary Shelleys «Schweizer Kreatur» über KI lehrt

Mary Shelleys Frankenstein gilt als zeitloses Werk, das uns zum Nachdenken über die Ängste und Widersprüche der Moderne anregt. Keystone

In einer Zeit, in der künstliche Intelligenz unsere Arbeit und Freizeit beeinflusst, hilft uns Mary Shelleys Roman «Frankenstein», über die unerwarteten Folgen von Innovation nachzudenken.

In einer «düsteren Novembernacht» wird Victor Frankenstein, der Genfer Wissenschaftler und Protagonist eines der berühmtesten Romane der Literatur, Zeuge der Verwirklichung seiner «Mühen»: Eine aus Teilen menschlicher und tierischer Leichen zusammengesetzte Kreatur erwacht zum Leben – sehr zu seinem Erstaunen und Ekel.

«Ich sah, wie sich das gelbe, starre Auge der Kreatur öffnete; sie atmete schwer, und eine krampfhafte Bewegung erschütterte ihre Glieder»: So beschreibt Frankenstein den Moment, der sein Leben verändern wird.

Es folgt eine Geschichte, in der die technologische Erfindung der menschlichen Kontrolle entgleitet. Die Kreatur flieht, lernt sprechen und rächt sich schliesslich an ihrem von Schuldgefühlen geplagten Schöpfer.

Frankenstein, das Mary Shelley 1816 während eines Aufenthalts am Genfer See konzipierte, ist seit über zwei Jahrhunderten ein Spiegelbild der Ängste im Zusammenhang mit der Moderne und kulturellen Veränderungen.

Die amerikanische Wissenschaftlerin Mitzi Myers bezeichnete die Geschichte wegen ihrer Fähigkeit, sich im Lauf der Zeit an neue Entwicklungen anzupassen, als «das Schweizer Taschenmesser der Romantik».

«Man kann sie verwenden, um über alles Mögliche zu sprechen: über Geschlechterrollen, politische Revolutionen, Rassen und Familiendramen», sagt Sarah Marsh, Professorin für Englisch an der Seton Hill University in den Vereinigten Staaten.

Heute mag es verlockend sein, die Parabel von Frankenstein mit einer bestimmten Technologie zu vergleichen: der künstlichen Intelligenz (KI).

Die Ähnlichkeiten sind offensichtlich: Die Kreatur ist ein künstliches Wesen, das nach eigenem Willen handelt. Ihr Schöpfer ist ein selbstbewusster und ehrgeiziger Wissenschaftler. Die Kreatur ist aus menschlichen Teilen zusammengesetzt, ebenso wie KI-Modelle anhand bestehender menschlicher Texte trainiert werden.

Darüber hinaus verbreitet sich KI rasant. Innerhalb weniger Jahre hat sie Einzug in fast alle Bereiche des modernen Lebens gehalten – von den Werkzeugen, die wir für die Arbeit und den Zugang zu alltäglichen Dienstleistungen nutzen, bis hin zu den Algorithmen, die bestimmen, was wir in unserer Freizeit hören und sehen.

Die Macht und Allgegenwärtigkeit dieser Technologie weckt Befürchtungen, dass sie uns letztendlich schaden könnte, indem sie beispielsweise Arbeitsplätze vernichtet, mit Rechenzentren ökologische Schäden verursacht oder apokalyptische Szenarien im Zusammenhang mit KI-gesteuerten Waffen realistisch macht.

Die Anwendungen der KI und die Bedenken der Nutzerinnen und Nutzer werden im 2026 weiter zunehmen. Ein Blick auf die Geschichte, die sich am Ufer des Genfersees abspielte, kann Aufschluss darüber geben, was passiert, wenn sich so mächtige Innovationen wie KI ungebremst weiterentwickeln.

KI gefährdet bereits jetzt Arbeitsplätze, auch in der Schweiz:

Wer ist verantwortlich: der Schöpfer oder das Geschöpf?

Ein zentrales Thema in Shelleys Roman ist die Verantwortung. Das Geschöpf von Victor Frankenstein ist anfangs harmlos. Es handelt in guter Absicht und wird erst gewalttätig, als es von seinem Schöpfer abgelehnt und von den Menschen angegriffen wird, denen es begegnet.

Der Roman wirft die Frage auf, wer für die Handlungen des Geschöpfes verantwortlich ist: der Schöpfer, die Gesellschaft oder das Geschöpf selbst?

Laut Elisabeth Bronfen, emeritierte Professorin für englische und amerikanische Literatur an der Universität Zürich, deutet Shelleys Schrift darauf hin, dass ihre Sympathie dem Geschöpf gilt, das Opfer der unvorsichtigen Hybris von Frankenstein ist.

«Das Geschöpf drückt sich in poetischer Sprache aus, während Victor Frankenstein als Fanatiker erscheint, der seinen Mitmenschen gegenüber gleichgültig ist», sagt Bronfen.

Trotz Shelleys Sympathie für die Kreatur gibt der Roman keine endgültige Antwort darauf, wer die Verantwortung trägt. Frankenstein wird nie rechtlich für seine Verfehlungen bestraft, ebenso wenig wie die Kreatur. Dennoch bietet Shelleys Fantasiewelt den Leserinnen und Lesern wertvolle Denkanstösse.

Nachdem die Kreatur mehrere Verbrechen begangen hat, wendet sich Frankenstein an einen Richter in Genf, um Gerechtigkeit zu erlangen. Der Richter ist von der Erzählung zwar erschüttert, erklärt sich jedoch für machtlos: Er kann nichts tun, um eine Kreatur vor Gericht zu bringen, die «über Kräfte zu verfügen scheint, die alle meine Mittel wirkungslos machen».

In dem Roman kann die Kreatur daher rechtlich nicht für ihre Handlungen zur Verantwortung gezogen werden. Laut Sarah Marsh ist dies eine Situation, die dem aktuellen rechtlichen Status grosser Sprachmodelle (LLM) sehr ähnlich ist.

LLM können zwar bei der Diagnose von Krankheiten helfen, aber auch zu Selbstverletzung ermutigen. Allerdings haben Gerichte und Aufsichtsbehörden noch nicht festgelegt, wer die Verantwortung für die Verwendung dieser Instrumente übernehmen soll.

«Wenn Sie es mit einem nicht-menschlichen Wesen wie einem Chatbot zu tun haben und der Chatbot Ihnen Schaden zufügt, wer hat Ihnen dann Schaden zugefügt? Der Chatbot? Das Unternehmen, das ihn entwickelt hat? Sie selbst? Das sind sehr aktuelle Fragen», sagt Marsh.

Diese Fragen werden voraussichtlich dieses Jahr vor Gerichten verhandelt werden. Derzeit haben mehrere Familien KI-Unternehmen wie OpenAI beschuldigt, ihre Familienmitglieder – darunter auch MinderjährigeExterner Link – zum Suizid oder sogar zum Mord getriebenExterner Link zu haben. Es gibt jedoch noch keine Gerichtsentscheide.

Werden wir es schaffen, eine «menschliche» KI zu entwickeln? Die Schweiz hat sich dem Wettlauf angeschlossen:

Die unbeabsichtigten Folgen der Technologie

Der vollständige Titel von Shelleys Roman lautet «Frankenstein oder Der moderne Prometheus». Er bezieht sich auf den Titanen aus der griechischen Mythologie, der die Menschen erschuf und dafür, dass er ihnen das Feuer geschenkt hatte, auf ewig gequält wurde.

Im Verlauf des Romans leidet Victor Frankenstein sowohl unter den Qualen, die ihm das Wesen zufügt, indem es seine Lieben tötet, als auch unter seinem eigenen schlechten Gewissen.

«Ich war der Urheber irreparablen Übels und lebte in täglicher Angst, dass das von mir geschaffene Monster neue Gräueltaten begehen würde», bemerkt der Wissenschaftler.

So wird das Drama einer Kreatur, die sich gegen ihren Schöpfer auflehnt, zum Drama eines Wissenschaftlers, der ungewollt einem zerstörerischen Wesen Leben einhaucht.

«Wir Wissenschaftler lösen oft Probleme, ohne über die Auswirkungen nachzudenken. Dieser Roman bietet uns die Möglichkeit, die unbeabsichtigten Folgen wissenschaftlicher Handlungen zu untersuchen», sagt Andy Bell, Leiter der Abteilung für Forschung und Innovation an der Universität Sheffield im Vereinigten Königreich.

Die Entwicklung der KI schreitet so schnell voran, dass unbeabsichtigte Folgen unvermeidlich sind. Unternehmen wie OpenAI bemühen sich, die zahlreichen unvorhergesehenen Probleme anzugehen.

So gab das Unternehmen kürzlich bekanntExterner Link, dass es eine Person einstellen will, die für die Vorhersage der mit der KI verbundenen Risiken verantwortlich ist.

Allerdings ist es, wie Shelleys Roman zeigt, schwierig, den Schaden wieder gutzumachen, wenn er einmal angerichtet ist. Frankenstein verbringt die Jahre nach seiner Entdeckung von Reue geplagt und ist unfähig, seine Taten wiedergutzumachen.

Ein Teil der wissenschaftlichen Gemeinschaft hat Shelleys Lehre ernst genommen. So veröffentlichte der Verlag des Massachusetts Institute of Technology, eines der weltweit führenden Zentren für Forschung und technologische Entwicklung, im Jahr 2017 eine kommentierte Ausgabe von FrankensteinExterner Link für «Forschende, Ingenieurinnen und Schöpfer aller Art». Mit dem Ziel: Die Reue soll bereits vorhanden sein, bevor gefährliche Kreationen in Umlauf gebracht werden.

Diskutieren Sie mit:

Editiert von Gabe Bullard, Übertragung aus dem Italienischen mithilfe von Deepl: Christian Raaflaub