Condannare uno scrittore sulla base dei risultati dei rilevatori di IA è “inaccettabile”. Gli esperti svizzeri spiegano perché
Quando un software ha attribuito all’intelligenza artificiale un romanzo di successo, è scoppiata una controversia che ha avuto pesanti conseguenze sull'autore. Esperti e artisti svizzeri analizzano quanto siano davvero affidabili questi strumenti e che cosa significhino i loro verdetti per il lavoro creativo.
Lo scrittore haitiano-canadese Thélyson Orélien aveva davanti a sé una carriera promettente. Il suo romanzo C’était ça ou mourir, accolto con successo dalla critica e dal pubblico, era in lizza per alcuni dei più prestigiosi premi letterari francesi, tra cui il Goncourt. Finché un account anonimo su X non lo ha accusato di aver scritto quasi interamente il libro con l’intelligenza artificiale (IA).
Orélien ha negato di aver utilizzato l’IA per scrivere il romanzo. Ma per chi lo accusava, le prove erano inequivocabili: Pangram, uno dei software più diffusi per rilevare contenuti generati dall’IA, aveva classificato come artificiale oltre il 95% del libro.
Da lì, la situazione è degenerata per Orélien. Il suo romanzo è stato escluso dal Goncourt, anche a seguito delle rivelazioni della stampa su casi di plagio in testi precedenti, per cui Orélien si è scusato. La casa editrice canadese che lo pubblicava ha messo fine alla collaborazione dopo che un’analisi esterna ha portato alla luce ulteriori indizi dell’uso dell’IA. Orélien ha continuato a negare di aver scritto C’était ça ou mourir con l’IA pur ammettendone l’impiego nella fase creativa per ricerche storiche.
Fin dall’inizio, la controversia ha diviso il mondo letterario tra chi difendeva l’autore e metteva in dubbio l’affidabilità dei rilevatori di IA e chi, invece, lo criticava.
Al di là del caso di Orélien, il regista, sceneggiatore e docente svizzero Manuel Flurin Hendry ritiene ingiusto danneggiare la reputazione di uno scrittore sulla base del risultato di un software. “L’idea di incollare un testo su Pangram e poi sottoporre uno scrittore a una sorta di esecuzione pubblica mi sembra inaccettabile”, ha dichiarato Hendry a Swissinfo durante un’intervista all’AI+X Summit, a inizio ottobre. Hendry difende la libertà di chi fa arte di scegliere i propri strumenti.
Anche altri scrittori e artisti svizzeri hanno sperimentato apertamente con l’IA. L’autore Charles Lewinsky ha inserito interi passaggi generati da ChatGPT nel suo romanzo Täuschend echt. Il fotografo Matthieu Gafsou ha utilizzato strumenti di generazione di immagini come DALL·E nel proprio lavoro artistico.
Questi sono soltanto alcuni esempi dichiarati di come l’IA sia entrata nelle opere creative in Svizzera. Ma capire come comportarsi di fronte all’uso estensivo e non dichiarato dell’IA è molto più difficile. Così come stabilire quanto una macchina possa contribuire legittimamente a un’opera artistica e se strumenti come Pangram siano affidabili nel rivelare eventuali frodi.
Quanto è affidabile Pangram?
Per Hendrik Strobelt, ricercatore senior presso IBM negli Stati Uniti, la questione dell’affidabilità di Pangram è complessa. Nel 2019, Strobelt e i suoi colleghi hanno sviluppato GLTR, uno dei primi strumenti sperimentali per identificare testi potenzialmente generati da modelli linguistici.
All’epoca, OpenAI aveva appena pubblicato GPT-2, il modello su cui GLTR si basava. I sistemi di IA tendevano a produrre testi piuttosto monotoni e molto simili tra loro nello stile, perché questo tipo di contenuti era il più comune, spiega Strobelt.
Capire se un testo era stato scritto con l’aiuto dell’IA era quindi relativamente semplice: bastava individuare le parole più prevedibili.
In seguito, però, i modelli linguistici sono diventati più sofisticati. Strobelt ritiene che, con gli attuali sistemi avanzati di IA, sia diventato estremamente difficile stabilire regole precise per distinguere un testo prodotto dall’IA da uno scritto da un essere umano.
“Oggi questi modelli sono notevolmente più evoluti. Possono imitare diversi stili se vengono date loro le istruzioni appropriate”, afferma il ricercatore di IBM.
Software come Pangram utilizzano un metodo noto come “classificazione supervisionata” (supervised classification). Confrontano e classificano testi scritti prima della diffusione su larga scala dell’IA generativa, e quindi presumibilmente di origine umana, con versioni “speculari” sullo stesso argomento, generate da diversi modelli linguistici disponibili sul mercato. Durante l’addestramento, il software impara a riconoscere le differenze tra questi due tipi di testo.
La logica è che, se un sistema riesce a distinguere contenuti molto simili per argomento, le sue previsioni diventeranno più accurate.
“L’obiettivo è addestrare il sistema su testi molto simili tra loro, per assicurarsi che impari prima ad affrontare i casi più difficili”, spiega Strobelt.
Pangram dichiaraCollegamento esterno un’accuratezza del 99,98% e un tasso di falsi positivi dello 0,01%. Le sue elevate prestazioni sono state confermate anche da ricerche indipendentiCollegamento esterno, tra cui uno studioCollegamento esterno pubblicato quest’anno.
Secondo Paolo Italiani, ricercatore in intelligenza artificiale e apprendimento automatico presso l’Università della Svizzera italiana (USI), più un testo è lungo, più la valutazione di un rilevatore tende a essere affidabile.
“È abbastanza probabile che almeno una parte [del testo] sia stata generata dall’IA”, afferma.
I limiti dei rilevatori di IA
Rimane tuttavia difficile comprendere esattamente su quali caratteristiche di un testo si basino questi software per effettuare le loro classificazioni, afferma Lonneke van der Plas, professoressa di elaborazione del linguaggio naturale all’USI.
Per scoprirlo servirebbero studi di interpretabilità, spiega Van der Plas. Ma poiché gli strumenti commerciali come Pangram sono in gran parte delle scatole nere non accessibili ai gruppi di ricerca indipendenti, studiare come arrivino alle loro conclusioni è complicato.
In teoria, alcuni indizi, come una struttura argomentativa troppo lineare, potrebbero suggerire l’intervento dell’IA, come evidenzia una ricerca a cui ha contribuito Van der Plas. Ma queste caratteristiche, avverte la ricercatrice, non sono sufficienti a stabilire con certezza l’origine di un testo.
Van der Plas, inoltre, fa notare che gli strumenti di rilevamento tendono a essere meno affidabili nelle lingue diverse dall’inglese e nei generi più di nicchia, che potrebbero aver incontrato meno di frequente durante l’addestramento.
Il problema si complica ulteriormente quando un testo è il risultato di una collaborazione tra esseri umani e IA. Alcuni testCollegamento esterno mostrano che, in questi casi, l’accuratezza dei rilevatori diminuisce di circa 20 punti percentuali. Anche il rapporto tecnicoCollegamento esterno di Pangram indica che il software perde precisione quando deve analizzare contenuti in cui si alternano frasi scritte da esseri umani e frasi generate dall’IA.
“Questi software sono stati addestrati principalmente su testi interamente scritti da esseri umani oppure interamente generati da macchine. Non appena si trovano davanti a qualcosa che sta nel mezzo, vanno in tilt”, afferma Van der Plas.
Un punteggio non è una prova sufficiente
Dal punto di vista giuridico, i risultati prodotti da strumenti come Pangram non costituiscono una prova del fatto che un autore abbia commesso una frode.
“Una decisione giudiziaria non può basarsi semplicemente su queste tecnologie, perché possono essere imprecise”, afferma Jacques de Werra, professore di diritto della proprietà intellettuale all’Università di Ginevra.
Se un caso come quello di Orélien finisse davanti a un tribunale, spiega de Werra, oltre ai risultati dei rilevatori bisognerebbe prendere in considerazione altre prove, tra cui i manoscritti originali, le successive bozze e persino gli scambi con i sistemi di IA. De Werra sottolinea inoltre che il coinvolgimento dell’IA nel processo creativo non esclude automaticamente la possibilità per un autore di rivendicare il diritto d’autore sulla propria opera.
“Se una persona riesce a dimostrare che esiste un legame creativo sufficientemente stretto tra gli input, le istruzioni creative fornite all’IA e il risultato finale, potrebbe essere possibile rivendicare un contributo creativo umano”, afferma.
La questione fondamentale è stabilire se tale contributo da parte dell’autore sia sufficiente. De Werra sostiene, tuttavia, che non esiste una soglia numerica prestabilita che permetta di determinare quanta parte di un’opera debba essere scritta da una persona affinché possa essere considerata sua.
Se un libro ci emoziona, importa davvero chi l’ha scritto?
Per Manuel Flurin Hendry, tuttavia, la questione va oltre la protezione giuridica.
Il regista e sceneggiatore svizzero dichiara pubblicamente di utilizzare tecnologie basate sull’IA, alcune delle quali sviluppate da lui stesso, per diverse attività legate al suo lavoro: dall’analisi delle sceneggiature al supporto alla ricerca accademica.
La tecnologia, spiega, apre nuovi canali di ispirazione, suggerendo talvolta approcci a cui non aveva pensato. E gli permette di dedicare più tempo al processo creativo.
“La vera scrittura umana è pensiero in azione. Richiede attrito e capacità di entrare in uno stato in cui ci si possa concentrare esclusivamente sul flusso dei propri pensieri”, afferma.
Hendry pone una domanda provocatoria: perché dovrebbe importare quanto l’IA ha contribuito a un’opera? “Se ci emoziona, se la troviamo interessante, se ci fa riflettere, qual è il problema?”, chiede.
Ciò che conta, sostiene, è imparare a distinguere quali compiti delegare all’IA e quali sia meglio svolgere personalmente. Anziché rifiutare la tecnologia, gli artisti e le artiste dovrebbero essere trasparenti sul modo in cui la utilizzano.
“Se faccio finta che un’opera sia mia, ma in realtà è stata interamente generata dall’IA, allora è un falso”, afferma Hendry.
In gioco non c’è soltanto la reputazione di un artista, ma soprattutto il rapporto di fiducia con il suo pubblico.
A cura di Gabe Bullard/VdV
Vedi più articoli di Swissinfo nei risultati di Google. Per saperne di più
In conformità con gli standard di JTI
Altri sviluppi: SWI swissinfo.ch certificato dalla Journalism Trust Initiative
Potete trovare una panoramica delle discussioni in corso con i nostri giornalisti qui.
Se volete iniziare una discussione su un argomento sollevato in questo articolo o volete segnalare errori fattuali, inviateci un'e-mail all'indirizzo italian@swissinfo.ch.