Einen Autor aufgrund von KI-Analysen zu verurteilen, sei «inakzeptabel», sagen Schweizer Fachleute
Als ein Analysetool einen Bestsellerroman als KI-generiert einstufte, entfachte dies eine Kontroverse, die den Ruf des Autors schwer beschädigte. Schweizer Expert:innen und Künstler:innen beleuchten, inwieweit diese Tools tatsächlich Beweise liefern können und was deren Urteile für kreatives Schaffen bedeuten.
Der haitianisch-kanadische Schriftsteller Thélyson Orélien hatte eine vielversprechende Karriere vor sich. Sein Roman «C’était ça ou mourir», ein Kritik- und Publikumserfolg, war für einige der renommiertesten französischen Literaturpreise nominiert, darunter den Prix Goncourt.
Bis ein anonymer Beitrag auf der Plattform X ihn beschuldigte, fast das gesamte Buch mithilfe künstlicher Intelligenz (KI) geschrieben zu haben.
Orélien bestritt den Einsatz von KI beim Schreiben des Romans. Doch für seine Ankläger:innen schien die Beweislage eindeutig: Pangram, eines der beliebtesten Tools zur Erkennung von KI-generierten Inhalten, hatte mehr als 95% des Romans als KI-generiert eingestuft.
Von da an ging es für Orélien bergab. Sein Roman wurde aus der Auswahl für den Prix Goncourt gestrichen – auch, weil die Presse Plagiate in früheren Werken aufgedeckt hatte. Dafür hatte er sich entschuldigt.
Sein kanadischer Verlag brach die Zusammenarbeit mit ihm ab, nachdem eine externe Analyse weitere Hinweise auf die Nutzung von KI ergeben hatte. Orélien bestritt zwar weiterhin, das Buch mit KI geschrieben zu haben, gab aber zu, sie während des kreativen Prozesses für historische Recherchen genutzt zu haben.
Von Anfang an spaltete die Kontroverse die Literaturwelt in diejenigen, die den Autor verteidigten und die Zuverlässigkeit solcher Analyse-Tools in Frage stellten, und diejenigen, die ihn kritisierten.
Der Schweizer Filmemacher, Drehbuchautor und Dozent Manuel Flurin Hendry hält es für unfair, den Ruf eines Schriftstellers aufgrund einer softwaregenerierten Bewertung zu beschädigen.
«Die Vorstellung, dass man einen Text in Pangram eingibt und dann einen Schriftsteller öffentlich an den Pranger stellt, ist inakzeptabel», sagte Hendry in einem Gespräch mit Swissinfo auf dem AI+X Summit Anfang Oktober.
Hendry verteidigt die Freiheit von Künstler:innen, ihre eigenen Werkzeuge zu wählen.
Andere Schweizer Schriftsteller und Künstler haben offen mit KI experimentiert. Der Autor Charles Lewinsky hat ganze von ChatGPT generierte Passagen in seinen Roman «Täuschend Echt»integriert.
Und der Fotograf Matthieu Gafsou verwendet in seiner künstlerischen Arbeit Bildgenerierungswerkzeuge wie DALL-E.
Dies sind nur einige wenige Beispiele dafür, wie KI in der Schweiz Einzug in die kreative Arbeit gehalten hat. Weitaus schwieriger gestaltet sich jedoch die Frage, wie auf eine nicht offengelegte und potenziell umfangreiche Nutzung von KI reagiert werden soll.
Ebenso kompliziert ist es zu entscheiden, wie viel KI-generiertes Material in einem Kunstwerk akzeptabel ist und ob Tools wie Pangram wirklich als eindeutiger Beweis für einen Betrug herangezogen werden können.
Wie zuverlässig ist Pangram?
Für Hendrik Strobelt, Senior Researcher bei IBM in den USA, ist die Frage der Zuverlässigkeit von Pangram komplex.
2019 entwickelten Strobelt und seine Kolleg:innen GLTR, eines der ersten experimentellen Tools zur Identifizierung von Texten, die möglicherweise von Sprachmodellen generiert worden waren.
Zu dieser Zeit hatte OpenAI gerade GPT-2 veröffentlicht, das Modell, auf dem GLTR basiert. KI-Modelle neigten dazu, eher langweilige Texte mit einem sehr ähnlichen Stil zu produzieren, da diese Inhalte am verbreitetsten waren, erklärt Strobelt.
Zu erkennen, ob ein Text möglicherweise mithilfe von KI erstellt wurde, war daher relativ einfach: Es reichte aus, nach den wahrscheinlichsten Wörtern zu suchen.
Dann wurden die Sprachmodelle immer ausgefeilter. Strobelt ist der Ansicht, dass es mit den heutigen hochentwickelten KI-Systemen extrem schwierig geworden ist, klare Regeln aufzustellen, um KI-generierte Texte von jenen zu unterscheiden, die von Menschen verfasst wurden.
«Mittlerweile sind die Modelle deutlich komplexer. Sie können Stile imitieren, wenn man sie entsprechend anleitet», sagt der IBM-Forscher.
Software wie Pangram verwendet ein Verfahren, das als «überwachte Klassifikation» bekannt ist. Es vergleicht und klassifiziert Texte, die vor der Verbreitung generativer KI verfasst wurden – und daher mutmasslich von Menschen stammen – mit «Spiegelversionen» zum selben Thema, die von verschiedenen kommerziell erhältlichen Sprachmodellen generiert wurden. Während des Trainings lernt die Software, die Unterschiede zwischen den Texten zu erkennen.
Die Logik dahinter ist: Wenn ein System zwischen Texten unterscheiden kann, die sich thematisch sehr ähneln, werden seine Vorhersagen genauer.
«Man beginnt bewusst mit sehr ähnlichen Texten, um sicherzustellen, dass man die schwierigen Aufgaben zuerst trainiert», erklärt Strobelt.
Pangram gibt eine Genauigkeitsrate von 99,98% und eine Falschpositivrate von 0,01% anExterner Link. Die hohe Leistungsfähigkeit wurde auch durch unabhängige Forschung bestätigtExterner Link, darunter eine in diesem Jahr veröffentlichte StudieExterner Link.
Laut Paolo Italiani, Forscher für KI- und maschinelles Lernen an der Università della Svizzera italiana (USI), gilt: Je länger ein Text, desto zuverlässiger ist in der Regel die Bewertung durch einen Detektor:«Es ist ziemlich wahrscheinlich, dass zumindest ein Teil [des Texts] KI-generiert ist», sagt er.
Die Grenzen der KI-Detektoren
Dennoch bleibt es schwierig, genau zu verstehen, auf welche Merkmale eines Texts sich diese Tools bei ihren Klassifizierungen stützen, sagt Lonneke van der Plas, Professorin für natürliche Sprachverarbeitung an der USI.
Um ein besseres Verständnis zu erlangen, wären Studien zur Interpretierbarkeit erforderlich, sagt sie. Da kommerzielle Tools wie Pangram jedoch weitgehend Black Boxes sind und deren interne Funktionsweise unabhängigen Forscher:innen nicht zugänglich, ist es schwierig zu untersuchen, wie sie zu ihren Schlussfolgerungen gelangen.
Theoretisch könnten bestimmte Indizien wie etwa eine übermässig lineare Argumentationsstruktur Aufschluss darüber geben, ob ein Text eher von einer KI oder von einem Menschen verfasst wurde, wie eine von Van der Plas mitverfasste StudieExterner Link hervorhebt. Sie warnt jedoch, dass solche Merkmale nicht ausreichen, um die Herkunft eines Texts mit Sicherheit zu bestimmen.
Van der Plas weist ausserdem darauf hin, dass Erkennungswerkzeuge in anderen Sprachen als Englisch und in spezialisierteren Genres, die in ihren Trainingsdaten möglicherweise weniger gut vertreten waren, tendenziell weniger zuverlässig funktionieren.
Die Situation wird noch komplizierter, wenn ein Text das Ergebnis der Zusammenarbeit von Menschen und KI ist. Einige Tests zeigenExterner Link, dass die Genauigkeit der Erkennungsprogramme in solchen Fällen um etwa 20 Prozentpunkte sinkt.
Auch der technische Bericht von Pangram weist darauf hinExterner Link, dass die Software an Genauigkeit einbüsst, wenn Inhalte verarbeitet werden, die abwechselnd von Menschen verfasste und KI-generierte Sätze enthalten.
«Diese Programme wurden hauptsächlich entweder mit vollständig von Menschen verfassten oder mit maschinell generierten Texten trainiert. Sobald sie auf etwas stossen, das dazwischen liegt, geraten sie in Schwierigkeiten», sagt Van der Plas.
Eine Punktzahl ist kein ausreichender Beweis
Aus rechtlicher Sicht stellen die Ergebnisse von Tools wie Pangram keinen Beweis dafür dar, dass ein Autor oder eine Autorin Betrug begangen hat.
«Ein juristischer Entscheid kann sich nicht einfach auf diese Technologien stützen, da sie ungenau sein können», sagt Jacques de Werra, Professor für Obligationen- und Immaterialgüterrecht an der Universität Genf.
Würde ein Fall wie der von Orélien vor Gericht verhandelt, so erklärt de Werra, müssten neben den Ergebnissen der Tools auch andere Beweise berücksichtigt werden, darunter Originalmanuskripte, Entwürfe und sogar der Austausch mit KI-Systemen.
De Werra merkt zudem an, dass die Beteiligung von KI an kreativen Werken die Urheberrechtsansprüche von Autor:innen nicht automatisch ungültig macht.
«Wenn eine Person nachweisen kann, dass eine ausreichend enge kreative Verbindung zwischen dem Input, der kreativen Anregung und dem Output besteht, wäre es möglich, menschliche Kreativität geltend zu machen», sagt er.
Entscheidend sei, ob der kreative Beitrag der Autorin oder des Autors ausreicht. De Werra betont, dass kein fester numerischer Schwellenwert existiert, der festlegt, welcher Anteil eines Texts von einer Person verfasst sein muss, damit ein Werk als ihr eigenes gilt.
Wenn ein Buch berührt, spielt es dann eine Rolle, ob KI beim Schreiben geholfen hat?
Für Manuel Flurin Hendry geht es jedoch um mehr als nur um rechtlichen Schutz.
Hendry nutzt offen KI-basierte Technologien, von denen er einige selbst entwickelt hat, für verschiedene Aspekte seiner Arbeit, von der Analyse von Drehbüchern bis hin zur Unterstützung seiner akademischen Forschung.
Technologie, erklärt er, eröffne neue Inspirationsquellen und schlage mitunter Ansätze vor, die er zuvor nicht in Betracht gezogen hatte. Ausserdem schaffe sie mehr Zeit für den kreativen Prozess.
«Echtes menschliches Schreiben ist Denken in Aktion. Es erfordert Reibung und das Eintauchen in einen Zustand, in dem man sich ganz auf den Gedankenfluss konzentrieren kann», sagt er.
Und er stellt eine provokante Frage: Warum sollte es eine Rolle spielen, inwieweit KI zu einem Werk beigetragen hat? «Wenn es dich berührt. Wenn du es interessant findest. Wenn es dich zum Nachdenken anregt, was spricht dann dagegen?», fragt er.
Wichtig sei, so Hendry, zu lernen, welche Aufgaben man an die KI delegieren und welche man besser selbst erledigen sollte. Anstatt Technologie abzulehnen, sollten Künstler:innen offenlegen, wie sie sie nutzen.
«Wenn ich so tue, als wäre es mein Werk, es aber vollständig von einer KI generiert wurde, dann ist es eine Fälschung», sagt Hendry.
Auf dem Spiel steht nicht nur der Ruf von Künstler:innen, sondern vor allem ihr Vertrauensverhältnis zu ihrem Publikum.
Editiert von Gabe Bullard/VdV, Übertragung aus dem Englischen: Petra Krimphove/raf
Mehr Swissinfo-Artikel in Ihren Google-Ergebnissen sehen. Weitere Informationen
In Übereinstimmung mit den JTI-Standards
Einen Überblick über die laufenden Debatten mit unseren Journalisten finden Sie hier. Machen Sie mit!
Wenn Sie eine Debatte über ein in diesem Artikel angesprochenes Thema beginnen oder sachliche Fehler melden möchten, senden Sie uns bitte eine E-Mail an german@swissinfo.ch