Quando l’IA influenza il dibattito democratico in Svizzera

La campagna per l’iniziativa “No a una Svizzera da 10 milioni” è stata caratterizzata da una forte polarizzazione. AlgorithmWatch CH e l’Università di Zurigo hanno analizzato le sintesi generate dall’intelligenza artificiale che appaiono spesso prima dei risultati di ricerca su Google e Bing. Gian Ehrenzeller / Keystone

Alcuni studi indicano come l’intelligenza artificiale contribuisca in modo sottile a formare l’opinione pubblica in una democrazia. L’organizzazione AlgorithmWatch CH chiede più trasparenza da parte delle aziende di IA e una regolamentazione più incisiva.

Sta emergendo un fattore nel dibattito democratico di cui spesso non ci si rende conto: l’intelligenza artificiale (IA) sta cambiando il modo in cui le persone s’informano. “L’importanza delle sintesi generate dall’IA per la formazione dell’opinione pubblica in una democrazia è in aumento”, afferma Corinna Hertweck, ricercatrice presso l’organizzazione della società civile AlgorithmWatch CH.

Durante la campagna sull’iniziativa “No a una Svizzera da 10 milioni”, AlgorithmWatch CH, in collaborazione con l’Istituto di informatica dell’Università di Zurigo, ha analizzato oltre 170’000 ricerche generate automaticamente. Lo studio ha esaminato con quale frequenza, in risposta a una ricerca sui motori di ricerca Google e BingCollegamento esterno, comparisse una sintesi automatizzata generata dall’IA e quali fonti venissero utilizzate.

Il 43% delle domande a Google ha ricevuto una risposta sotto forma di AI Overview. Circa un terzo delle fonti consultate era equilibrato, si trattava soprattutto di articoli giornalistici o siti web delle autorità.

Inoltre, si è voluto registrare quante delle fonti citate tra tutte le sintesi IA fossero a favore o contro l’iniziativa. La maggior parte delle fonti utilizzate si è rivelata critica nei confronti dell’iniziativa. Tuttavia, AlgorithmWatch CH precisa che ciò non è indicativo dell’orientamento della risposta fornita da AI Overview.

Di solito, la sintesi generata dall’intelligenza artificiale elenca argomenti favorevoli e contrari. “Ma talvolta una parte beneficia di un testo più lungo, mentre l’altra è menzionata solo in una frase secondaria”, spiega Hertweck. Queste però sono solo le prime impressioni: manca ancora un’analisi concreta di quanto siano effettivamente equilibrate le risposte.

Il “framing” può influenzare l’opinione pubblica

Per Hertweck l’aspetto preoccupante è l’impercettibilità dell’influsso: “milioni di persone usano Google e si trovano di fronte a queste sintesi generate dall’IA. Basta solo un sottile ‘framing’, ossia il modo di presentare un argomento, per influenzare la formazione dell’opinione pubblica”.

In occasione della campagna sull’iniziativa “No a una Svizzera da 10 milioni” dell’Unione democratica di centro (destra conservatrice), anche l’agenzia pubblicitaria zurighese Feinheit ha analizzato vari chatbot e sintesi IA, riscontrando che ChatGPT e Google Gemini mettevano in risalto più spesso le argomentazioni del “no”, mentre le AI Overview di GoogleCollegamento esterno sarebbero state “dalla parte dei fautori dell’iniziativa”.

Ricercatori delle Università del Maryland e di WashingtonCollegamento esterno hanno evidenziato che le sintesi IA tendono a convincere soprattutto l’utenza “con una conoscenza inferiore del tema o una fiducia maggiore nell’IA”. Di conseguenza, i modelli di IA quali fonti presunte d’informazioni neutrali hanno un influsso importante sulla democrazia diretta in Svizzera.

“Quando pongo una domanda a Google, spesso in cima alla pagina non vedo più una lista di link, ma una risposta generata dall’IA”, spiega Hertweck. “Una risposta che suona plausibile e ha una certa autorità”. È dimostrato infatti che stanno aumentando le ricerche “zero-click”, in cui gli utenti non escono dalla pagina principale di Google. Per Hertweck, “si è spinti a riflettere in modo meno critico”.

La differenza tra l’opuscolo per le votazioni e le sintesi generate dall’IA

In Svizzera, lo scontro sulla neutralità dell’informazione fa parte del dibattito politico. Talvolta s’infiamma per la copertura ritenuta parziale dei media pubblici, tra cui Swissinfo.

Ma può persino esplodere nei confronti dell’opuscolo delle spiegazioni di voto, che le cittadine e i cittadini svizzeri ricevono insieme al materiale di votazione. Le informazioni devono essere neutrali e le argomentazioni e i pareri di chi è a favore o contrario devono avere lo stesso spazio.

Ovviamente questo non riguarda la pubblicità in vista della votazione, a cui non è imposto un tetto di finanziamento. In questo caso, la presenza nello spazio pubblico dipende in larga misura dal budget a disposizione.

Con le sintesi IA dei motori di ricerca e dei chatbot, tuttavia, sta crescendo l’importanza di una fonte informativa che si è diffusa nella democrazia svizzera senza un dibattito democratico, e di cui non si sa su quali basi generi le sue risposte apparentemente sobrie.

AlgorithmWatch CH vede una minaccia per il pluralismo dei media

Hertweck avanza una pretesa chiara: “l’opinione pubblica ha bisogno di trasparenza sul modo in cui vengono create le sintesi IA”. Il fatto che “il potere di mercato sia concentrato in una manciata di aziende” rappresenta una minaccia per il pluralismo dei media e per l’affidabilità dell’informazione.

L’esperta segnala anche un vicolo cieco economico al quale conducono le “ricerche zero-click” su Google: “se si rimane dentro Google si indebolisce ulteriormente il pluralismo dell’informazione. Agli editori vengono a mancare i click e di conseguenza anche la base economica per fornire un giornalismo di qualità”.

Alla fine, verrebbero meno proprio le fonti affidabili su cui basano le sintesi generate dall’IA. Per Hertweck, le aziende come Google dovrebbero riconoscere che non sono più solo canali di trasmissione, ma anche produttori di contenuti, sotto forma di sintesi generate dalle loro intelligenze artificiali.

>> Alcuni osservatori e osservatrici internazionali sperano che l’IA svizzera possa fungere da motore per uno sviluppo democratico:

Lamenta anche una “zona grigia” nel disegno di legge svizzero sulle piattaforme di comunicazione e sui motori di ricerca. “L’integrazione dell’IA generativa non è regolata esplicitamente, anche se è un fenomeno che vediamo sempre più spesso, per esempio proprio nelle sintesi automatiche dei motori di ricerca”.

“Va tutto incredibilmente in fretta”

Hertweck dirige presso AlgorithmWatch CH il progetto di ricerca ‘RAISD. L’IA generativa ha un impatto sulla democrazia perché ha un ruolo nella formazione delle opinioni individuali. E questi individui possono naturalmente essere anche persone attive in politica.

“Oltre alle sintesi IA, vorremmo per esempio osservare come sono impiegati i chatbot in politica dai politici stessi o dai loro collaboratori. Se i chatbot sono coinvolti nell’elaborazione di leggi, le conseguenze possono essere di vasta portata”, spiega Hertweck.

Portarle alla luce fa parte del progetto ‘RAISD’, che analizzerà fino al 2028 l’interazione tra IA, democrazia e società. Tuttavia, Hertweck non si azzarda a formulare previsioni sul futuro dell’IA generativa. “Va tutto incredibilmente in fretta, e per la politica e la ricerca è complicato tenere il passo”, conclude la ricercatrice.

Studio di Oxford: l’IA può “orientare l’opinione collettiva”

L’IA modifica anche il dibattito tra esseri umani. Un nuovo studio delle università di Oxford e Potsdam mostra che gli utenti non possono fidarsi dei propri testi se li danno in pasto alle IA per migliorarli.

Nello studio, intitolato “La comunicazione mediata dall’IA può orientare l’opinione collettiva”’Collegamento esterno, un team di ricercatori informatici ha chiesto a modelli di IA di “migliorare” i post di opinione. L’esito è stato che tali modelli hanno indebolito alcuni pareri o li hanno persino invertiti, su argomenti come l’aborto, il femminismo e il cambiamento climatico.

La professoressa Sandra Wachter e i suoi collaboratori hanno calcolato cosa potrebbe succedere proseguendo la conversazione: se un post su LinkedIn su cui è intervenuto un modello di IA provoca una risposta la cui posizione è a sua volta influenzata da un modello di IA, la discussione si sposta progressivamente verso una determinata direzione, sia per chi vi partecipa, sia per chi la segue dall’esterno.

Pregiudizio antiabortista di Grok

“Il nostro lavoro dimostra che è necessario un dibattito più ampio su cosa dobbiamo aspettarci dai modelli linguistici e dai loro sviluppatori, poiché è probabile che i legislatori non fossero consapevoli di questi rischi quando hanno elaborato l’AI Act”, spiega Wachter interpellata da Swissinfo. Nell’AI Act, ossia il regolamento europeo sull’intelligenza artificiale, è previsto l’obbligo di etichettare i contenuti generati dall’IA. Ma i contenuti interessati sono soprattutto immagini, audio e filmati. Per Wachter è “improbabile” che vi rientrino anche i testi.

Lo studio ha constatato che Grok, il modello di IA di Elon Musk, ha un pregiudizio antiabortista. Se questi “bias” sono comuni a tutti i modelli di IA, spesso in conseguenza dei dati e dei contenuti con cui vengono addestrati, il team di Wachter ha trovato prove che Grok assume tendenzialmente una posizione contro l’aborto in seguito a una scelta consapevole del suo sviluppatore.

A cura di Samuel Jaberg/jg

Traduzione di Paolo Valenti