Frankenstein: ce que la «créature suisse» de Mary Shelley nous apprend sur l’IA d’aujourd’hui

Frankenstein de Mary Shelley est considéré comme une œuvre intemporelle qui incite à réfléchir sur les angoisses et les contradictions de la modernité. Keystone

À une époque où l’intelligence artificielle façonne aussi bien notre travail que nos loisirs, le roman Frankenstein de Mary Shelley nous offre une grille de lecture précieuse pour réfléchir aux conséquences inattendues de l’innovation.

C’est par une «lugubre nuit de novembre» que Victor Frankenstein, le scientifique genevois au cœur de l’un des romans les plus célèbres de la littérature, voit enfin s’accomplir le fruit de ses «travaux»: une créature assemblée à partir de morceaux de cadavres humains et animaux s’anime sous ses yeux, suscitant à la fois stupeur et dégoût. «Je vis l’œil jaune et fixe de la créature s’ouvrir; elle respirait avec peine, et un mouvement convulsif agitait ses membres»: ainsi Frankenstein décrit-il l’instant qui bouleversera à jamais son existence.

S’ensuit une histoire où l’invention technologique échappe au contrôle humain: la créature s’enfuit, apprend à parler, puis se retourne contre son créateur, accablé par la culpabilité.

Conçu par Mary Shelley lors d’un séjour sur les rives du lac Léman en 1816, Frankenstein est depuis plus de deux siècles un miroir des angoisses suscitées par la modernité et les bouleversements culturels. La chercheuse américaine Mitzi Myers l’a qualifié de «couteau suisse du romantisme» en raison de sa capacité à s’adapter aux évolutions de chaque époque. «On peut s’en servir pour parler de tout: de genre, de révolution politique, de race ou encore de drames familiaux», explique Sarah Marsh, professeure d’anglais à la Seton Hill University, aux États‑Unis.

Redécouvrez la genèse suisse du fameux roman de Mary Shelley dans cette émission de RTS Culture du 12 mai 2016:

Aujourd’hui, il peut être tentant de faire de rapprochements avec une technologie en particulier: l’intelligence artificielle (IA). Les parallèles sautent aux yeux: la créature est un être artificiel doté d’une volonté propre; son créateur, un scientifique sûr de lui et ambitieux. La créature est assemblée à partir de fragments humains, tout comme les modèles d’IA sont entraînés sur des textes produits par des humains.

L’IA, par ailleurs, se diffuse à grande vitesse. En l’espace de quelques années, elle s’est immiscée dans presque tous les aspects de la vie moderne: des outils que nous utilisons pour travailler ou accéder aux services du quotidien jusqu’aux algorithmes qui orientent ce que nous écoutons et regardons durant notre temps libre.

La puissance et l’omniprésence de cette technologie nourrissent des craintes qui, à l’image de la créature de Frankenstein, pourraient finir par nous nuire: destruction d’emplois, impact écologique des centres de données, ou encore scénarios apocalyptiques rendus crédibles par des systèmes d’armement guidés par l’IA.

Les usages de l’intelligence artificielle, tout comme les inquiétudes du public, devraient encore croître en 2026. Se replonger dans l’histoire née sur les rives du lac Léman peut offrir des pistes pour comprendre ce qui se produit lorsque des innovations puissantes comme l’IA évoluent sans véritable garde‑fou.

Qui est responsable: le créateur ou la créature?

Un thème central du roman de Shelley est celui de la responsabilité. La créature de Victor Frankenstein est, au départ, inoffensive. Elle agit avec de bonnes intentions et ne devient violente qu’après avoir été rejetée par son créateur et agressée par les personnes qu’elle rencontre. Le roman pose ainsi la question de savoir qui porte la responsabilité des actes de la créature: le créateur, la société ou la créature elle‑même?

Selon Elisabeth Bronfen, professeure émérite de littérature anglaise et américaine à l’Université de Zurich, l’écriture de Shelley laisse entendre que sa sympathie va à la créature, victime de l’hybris imprudente de Victor Frankenstein. «La créature s’exprime dans un langage poétique, tandis que Victor Frankenstein apparaît comme un fanatique, indifférent à ceux qui l’entourent», observe-t-elle.

Malgré cette empathie de l’écrivaine pour la créature, le roman ne tranche jamais clairement la question de la responsabilité ultime. Victor Frankenstein n’est jamais puni légalement pour ses fautes, pas plus que la créature. Pourtant, l’imaginaire de Shelley offre au lecteur une matière riche pour nourrir la réflexion.

Après que la créature a commis plusieurs crimes, Frankenstein s’adresse à un magistrat de Genève pour obtenir justice. Ce dernier, bien que bouleversé par son récit, admet son impuissance: il n’existe aucun moyen, dit‑il, de traduire en justice un être qui «semble posséder des pouvoirs tels qu’ils rendent toutes mes ressources inefficaces».

Dans le roman, la créature ne peut donc pas être tenue légalement responsable de ses actes – une situation qui, selon Sarah Marsh, rappelle de près le statut juridique actuel des grands modèles de langage (LLM). Ces derniers peuvent aussi bien contribuer à diagnostiquer des maladies qu’encourager l’automutilation, mais tribunaux et autorités de régulation n’ont pas encore déterminé qui doit assumer la responsabilité de l’usage qui en est fait.

«Si vous interagissez avec une entité non humaine comme un chatbot et que celui‑ci vous cause du tort, qui vous a réellement fait du mal? Le chatbot? L’entreprise qui l’a conçu? Vous‑même? Ce sont des questions très actuelles», souligne Sarah Marsh.

Ces questions seront probablement débattues devant les tribunaux en 2026. À l’heure actuelle, plusieurs familles ont accusé des entreprises d’IA comme OpenAI d’avoir poussé leurs proches – y compris des mineurs – au suicide, voire au meurtre, mais aucune décision judiciaire n’a encore été rendue.

Les conséquences involontaires des technologies

Le titre complet du roman de Shelley est Frankenstein, ou le Prométhée moderne. Il renvoie au Titan de la mythologie grecque qui créa l’humanité et fut condamné à un tourment éternel pour lui avoir offert le feu.

À mesure que le roman avance, Victor Frankenstein subit les tourments infligés par la créature, qui assassine les êtres qui lui sont chers, mais aussi ceux de sa propre conscience coupable. «J’avais été l’auteur de maux irréparables, et je vivais dans la crainte quotidienne que le monstre que j’avais créé ne commette quelque nouvelle atrocité», observe le scientifique. 

Le drame d’une créature qui se rebelle contre son créateur devient ainsi celui d’un savant qui, sans le vouloir, a donné vie à un être destructeur. «Bien souvent, nous scientifiques nous retrouvons à résoudre des problèmes sans réfléchir à leurs effets. Ce roman nous offre l’occasion d’explorer les conséquences non intentionnelles des actions de la science», explique Andy Bell, responsable de la recherche et de l’innovation à l’Université de Sheffield, au Royaume‑Uni.

Le développement de l’IA est si rapide que les effets imprévus sont inévitables. Des entreprises comme OpenAI tentent de réagir pour faire face aux nombreux problèmes inattendus. Récemment, la société a annoncé l’embauche d’une personne chargée de prévoir les risques liés à l’IA.

Toutefois, il est difficile de réparer les dégâts une fois qu’ils sont faits, comme le montre le roman de Mary Shelley. Victor Frankenstein passe les années qui suivent sa découverte consumé par le remords, incapable de corriger ses actes.

Une partie de la communauté scientifique a pris au sérieux l’avertissement de la romancière. En 2017, la maison d’édition du Massachusetts Institute of Technology, l’un des principaux centres mondiaux de recherche et d’innovation technologique, a publié une édition annotée de Frankenstein destinée aux «scientifiques, ingénieurs et créateurs de tout type». L’objectif? Faire en sorte que le remords surgisse avant que des créations dangereuses ne soient mises en circulation.

Texte relu et vérifié par Gabe Bullard, traduit de l’italien à l’aide de l’IA/op