Frankenstein: cosa c’insegna la “creatura svizzera” di Mary Shelley sull’IA di oggi

Frankenstein di Mary Shelley è considerata un'opera senza tempo capace di far riflettere sulle ansie e le contraddizioni della modernità. Keystone

In un’epoca in cui l’intelligenza artificiale influenza il nostro lavoro e il tempo libero, Frankenstein di Mary Shelley ci aiuta a riflettere sulle conseguenze inattese dell’innovazione.

È in una “lugubre notte di novembre”, che Victor Frankenstein, lo scienziato ginevrino protagonista di uno dei romanzi più famosi della letteratura, assiste alla realizzazione delle sue “fatiche”: una creatura assemblata con pezzi di cadaveri umani e animali prende vita con stupore e disgusto del suo creatore. “Vidi l’occhio giallo, fermo, della creatura aprirsi; respirava a fatica, e un moto convulso agitava le sue membra”: così Frankenstein descrive il momento che cambierà la sua stessa esistenza.

Segue una storia in cui l’invenzione tecnologica sfugge al controllo umano: la creatura scappa, impara a parlare e poi si vendica del suo creatore, carico di sensi di colpa.

Frankenstein, concepito da Mary Shelley durante un soggiorno sul Lago di Ginevra nel 1816, è da oltre due secoli uno specchio delle ansie legate alla modernità e ai cambiamenti culturali. La studiosa americana Mitzi Myers lo ha definito “il coltellino svizzero del romanticismo” per la sua capacità di adattarsi a nuovi sviluppi nel corso delle epoche. “Lo si può usare per parlare di qualsiasi cosa: di genere, di rivoluzione politica, di razza e di drammi familiari”, dice Sarah Marsh, professoressa di inglese alla Seton Hill University negli Stati Uniti.

Oggi può essere allettante paragonare la parabola di Frankenstein a quella di una tecnologia in particolare: l’intelligenza artificiale (IA). Le somiglianze sono facili da individuare: la creatura è un essere artificiale che agisce seguendo una volontà propria; il suo creatore è uno scienziato sicuro e ambizioso. La creatura è assemblata con parti umane, così come i modelli di IA vengono addestrati su testi umani esistenti.

L’IA, inoltre, si sta diffondendo rapidamente. In pochi anni la ritroviamo in quasi tutti gli aspetti della vita moderna: dagli strumenti che utilizziamo per lavorare e accedere ai servizi quotidiani agli algoritmi che determinano cosa ascoltiamo e guardiamo nel tempo libero.

Il potere e l’ubiquità di questa tecnologia generano timori che, come la creatura di Frankenstein, possono finire per nuocerci: distruggendo posti di lavoro, causando danni ecologici con i data center o rendendo realistici scenari apocalittici legati agli armamenti guidati dall’IA.

Le applicazioni dell’IA e le preoccupazioni dell’utenza sono destinate ad aumentare nel 2026. Uno sguardo alla storia nata sulle sponde del Lago di Ginevra può offrire spunti su cosa accade quando innovazioni potenti come l’IA evolvono senza freni.

>> L’IA sta già mettendo in pericolo posti di lavoro, anche in Svizzera:

Chi è responsabile: il creatore o la creatura?

Un tema centrale del romanzo di Shelley è la responsabilità. La creatura di Victor Frankenstein è inizialmente innocua. Agisce con buone intenzioni e diventa violenta solo quando viene rifiutata dal suo creatore e attaccata dalle persone che incontra. Il romanzo solleva la questione di chi sia responsabile delle azioni della creatura: il creatore, la società o la creatura stessa?

Secondo Elisabeth Bronfen, professoressa emerita di letteratura inglese e americana all’Università di Zurigo, la scrittura di Shelley suggerisce che la sua simpatia sia rivolta alla creatura, vittima della hybris imprudente di Victor Frankenstein. “La creatura si esprime con un linguaggio poetico, mentre Victor Frankenstein appare come un fanatico, indifferente a chi gli sta intorno”, afferma Bronfen.

Nonostante la simpatia di Shelley per la creatura, il romanzo non offre una risposta definitiva su chi detenga in ultima istanza la responsabilità. Victor Frankenstein non viene mai punito legalmente per le sue colpe e nemmeno la creatura. Tuttavia, l’immaginario di Shelley offre al lettore preziosi spunti di riflessione.

Dopo che la creatura ha commesso diversi crimini, Frankenstein si rivolge a un magistrato di Ginevra per ottenere giustizia. Il magistrato, seppur scosso dal racconto, dichiara la propria impotenza: non c’è nulla che possa fare per portare davanti alla legge una creatura che “sembra possedere poteri tali da rendere inefficaci tutte le mie risorse”.

Nel romanzo, la creatura non può dunque essere ritenuta legalmente responsabile delle proprie azioni – una situazione che, secondo Sarah Marsh, somiglia molto allo stato giuridico attuale dei modelli linguistici di grandi dimensioni (LLM). Gli LLM possono aiutare a diagnosticare malattie o incoraggiare l’autolesionismo, ma tribunali ed enti regolatori non hanno ancora stabilito chi debba assumersi la responsabilità su come questi strumenti sono usati.

“Se avete a che fare con un’entità non umana come un chatbot e il chatbot vi fa del male. Chi vi ha fatto del male? Il chatbot? L’azienda che l’ha creato? Voi stessi? Sono domande molte attuali”, afferma Sarah Marsh.

Queste questioni saranno probabilmente dibattute nei tribunali nel 2026. Attualmente, diverse famiglie hanno accusato aziende di IA come OpenAI di aver spinto i loro familiari, compresi giovani minorenniCollegamento esterno, al suicidio e persino all’omicidioCollegamento esterno, ma non ci sono ancora decisioni legali.

>> Arriveremo a costruire un’IA “umana”? La Svizzera è entrata nella corsa per riuscirci:

Le conseguenze non intenzionali delle tecnologie

Il titolo completo del romanzo di Shelley è Frankenstein, o il moderno Prometeo. È un riferimento al Titano della mitologia greca che creò l’uomo e fu eternamente tormentato per avergli donato il fuoco.

Man mano che il romanzo procede, Victor Frankenstein subisce le torture inflitte sia dalla creatura – che uccide le persone a lui care – sia dalla propria coscienza colpevole. “Ero stato l’autore di mali irreparabili, e vivevo nel quotidiano timore che il mostro che avevo creato commettesse qualche nuova malvagità”, osserva lo scienziato.
Il dramma di una creatura che si ribella al suo creatore diventa il dramma di uno scienziato che, senza volerlo, dà la vita a un essere distruttivo.

“Spesso noi scienziati ci ritroviamo a risolvere problemi senza pensare agli effetti. Questo romanzo ci offre l’opportunità di esplorare le conseguenze non intenzionali delle azioni della scienza”, dice a Swissinfo Andy Bell, capo della ricerca e innovazione dell’Università di Sheffield nel Regno Unito.

Lo sviluppo dell’IA è così rapido che le conseguenze non intenzionali sono inevitabili. Aziende come OpenAI stanno correndo ai ripari per affrontare i numerosi problemi imprevisti. Recentemente, l’azienda ha annunciato che assumerà una persona responsabileCollegamento esterno di prevedere i rischi legati all’IA.

Tuttavia, è difficile mettere una toppa una volta che il danno è fatto, come mostra il romanzo di Shelley. Victor Frankenstein trascorre gli anni successivi alla sua scoperta consumato dal rimorso e incapace di rimediare alle proprie azioni.

Parte della comunità scientifica ha preso seriamente l’insegnamento di Shelley. Nel 2017, la casa editrice del Massachusetts Institute of Technology, uno dei principali centri di ricerca e sviluppo tecnologico al mondo, ha pubblicatoCollegamento esterno una versione annotata di Frankenstein per “scienziati, ingegneri e creatori di ogni genere”. L’obiettivo? Che il rimorso bruci prima che creazioni pericolose siano messe in circolazione.

A cura di Gabe Bullard