Intelligenza artificiale e discriminazione: la protezione in Svizzera è debole 

Le minoranze etniche e di genere, le persone straniere e le donne sono tra i gruppi più colpiti dalla discriminazione degli algoritmi di intelligenza artificiale. Keystone

Gli algoritmi influenzano sempre più spesso decisioni importanti come l'assunzione del personale o l'accesso al credito e alle assicurazioni. Secondo una recente analisi, le tutele giuridiche in Svizzera rimangono inadeguate. Il Governo ha promesso di intervenire.

In Svizzera, la popolazione non è sufficientemente protetta dai rischi di discriminazione dovuti all’uso dell’intelligenza artificiale (IA). Lo ha sottolineato un parere giuridico rivolto martedì alla politica da due commissioni federali: la Commissione contro il razzismo e la Commissione per le questioni femminili. 

Non è un caso che queste due commissioni abbiano deciso di agire per mettere il Governo di fronte alle lacune nella protezione della popolazione dai rischi dell’IA. Le persone straniere, le minoranze di genere ed etniche e le donne sono tra i gruppi più colpiti.  

Diversi studi hanno già dimostrato come l’IA penalizzi queste categorie in settori quali l’assunzione, l’accesso al credito e i premi assicurativi. Nella selezione delle candidature di lavoro, ad esempio, gli strumenti di IA favoriscono i candidati maschi nell’85% dei casi e le donne solo nell’11%, mentre gli uomini di colore sono sistematicamente svantaggiati, secondo una ricerca internazionaleCollegamento esterno.   

“La discriminazione razziale e di genere è perpetuata e amplificata dall’intelligenza artificiale”, ha avvertito Ursula Schneider Schüttel, presidente della Commissione federale contro il razzismo, durante una conferenza nazionale a Berna.  

Schneider Schüttel ha sottolineato che alcune compagnie di assicurazione auto in Svizzera utilizzano modelli basati sull’IA per calcolare i premi. “I giovani uomini che non hanno un cognome tipicamente svizzero finiscono per pagare premi più alti”, ha affermato. I media svizzeri hanno già riportatoCollegamento esterno casi simili. 

Rispetto ai cittadini e alle cittadine di altri Paesi, la popolazione elvetica si trova in una posizione più vulnerabile. L’Unione Europea, ad esempio, ha adottato nel 2024 una legge specificaCollegamento esterno che obbliga chi fornisce sistemi di IA ad alto rischio a garantire la trasparenza e a mitigare attivamente la discriminazione e i pregiudizi.  

Per questi motivi, i e le rappresentanti delle due commissioni sostengono che la Svizzera dovrebbe agire il prima possibile per affrontare la discriminazione algoritmica. 

Le lacune nel diritto svizzero

Per la giurista Nadja Braun Binder, professoressa di diritto pubblico all’Università di Basilea, le leggi svizzere presentano evidenti lacune per quanto riguarda i rischi di discriminazione posti dagli strumenti di IA. “Non c’è un vuoto giuridico, ma la protezione è frammentata”, ha dichiarato a Swissinfo. 

La Costituzione federale vieta la discriminazione, ad esempio sulla base del sesso, dell’origine o della lingua. Tuttavia, gli algoritmi possono aggirare queste caratteristiche protette utilizzando dati apparentemente neutri – i cosiddetti “proxy”, come il codice postale o il nome – che riflettono l’origine o la provenienza sociale.  

Il problema, secondo Braun Binder, è che con le leggi attuali è praticamente impossibile identificare tali discriminazioni caso per caso. “Solo quando la discriminazione colpisce un gran numero di persone possiamo sapere se si tratta di un fenomeno sistematico”, spiega.  

Secondo la giurista, è necessario intervenire per correggere tali carenze. Braun Binder sostiene che l’IA può moltiplicare su larga scala la discriminazione esistente nella società, minando potenzialmente il progresso sociale. “L’IA non è progressista. Prende decisioni conservatrici sulla base dei dati storici su cui è stata addestrata”, avverte Braun Binder.  

Per questo motivo, nel parere legale redatto per le commissioni, Braun Binder e il suo collega Florent Thouvenin dell’Università di Zurigo invitano la classe politica a lavorare su una legge generale contro la discriminazione che si applichi a vari settori, sia pubblici che privati. “L’IA offre anche un’opportunità: quella d’identificare la discriminazione nella nostra società e di correggerla”, afferma la giurista.  

Il Governo svizzero “costretto ad agire”  

In un’intervista a Swissinfo, la ministra dell’interno Elisabeth Baume-Schneider ha affermato di prendere “seriamente” le raccomandazioni di Braun Binder e Thouvenin. “Abbiamo davvero preso coscienza della necessità di definire in modo più trasparente il ruolo degli algoritmi nelle decisioni che hanno un impatto sulla popolazione”, ha affermato.  

Per Baume-Schneider è chiaro che l’IA è ovunque e che il suo uso estensivo può rendere la discriminazione più rapida e diffusa, soprattutto nei confronti delle persone già svantaggiate, più povere o emarginate. Per questo motivo, la trasparenza nelle decisioni prese a qualsiasi livello – medico, sociale, educativo, finanziario – con il supporto dell’IA deve essere una priorità.  

Come primo passo in questa direzione, la Confederazione ha deciso di ratificareCollegamento esterno la Convenzione sull’IA del Consiglio d’Europa. Si tratta di un trattato internazionale che mira a garantire che le tecnologie di IA siano utilizzate in modo da rispettare i diritti fondamentali, compreso quello alla non discriminazione.  

>> ONG e società civile hanno criticato la Convenzione sull’IA del Consiglio d’Europa. Per saperne di più:

“Dobbiamo impegnarci per attuare questa convenzione nel nostro Paese”, afferma Baume-Schneider. Per Braun Binder, la firma della Convenzione del Consiglio d’Europa è un passo positivo che spinge la Svizzera ad adottare misure più concrete per prevenire la discriminazione in relazione ai sistemi di IA.   

Baume-Schneider conferma a Swissinfo che Berna sta già lavorando per allineare le proprie leggi alla convenzione e per creare un quadro giuridico che colmi le lacune esistenti. Spetterà poi al Consiglio federale, e successivamente al Parlamento, decidere in merito a eventuali modifiche legislative.  

La ministra ammette che il parere legale di Braun Binder e Thouvenin obbliga certamente il Governo ad agire.  

Questa posizione evidenzia l’urgenza politica della questione. “Non si tratta di demonizzare gli algoritmi”, afferma Baume-Schneider, “ma di riconoscere che le decisioni prese in modo opaco dall’IA possono avere conseguenze politiche, giuridiche ed economiche”.  

Articolo a cura di Marc Leutenegger