Credito sociale, un rischio per democrazie come quella svizzera?

Cosa accadrebbe se si assegnassero punti a ogni persona per il buon comportamento? Un tale scenario presenta molti rischi. Vera Leysinger / SWI swissinfo.ch

Sistemi di credito sociale come quello in Cina sollevano inquietudine in diversi Paesi. Un gruppo di ricerca svizzero vuole capire come le democrazie possano impedirne l'arrivo.

C’è chi la auspica, e chi la teme. Una società in cui si venga premiati se parcheggi bene, e se conduci una vita salutare. Il vasto fronte della preoccupazione sottolinea che un sistema a punti, anche solo per premiare e non per punire, potrebbe spingere molte persone ai margini della società.

Progetti pilota in Cina e film distopici hanno fatto crescere l’attenzione verso un tema che porta tanti nomi diversi. Nei giri critici si teme un nudging statale. Ovvero, ti manipolo con le buone. In altri ambiti, si preferisce chiamarlo sistema di social scoring, o a punti o di crediti sociali.

Johan Rochel fa parte di un gruppo di ricerca che lavora sullo scottante tema su incarico di TA-Swiss, una fondazione svizzera dedicata all’analisi di rischi e conseguenze delle nuove tecnologie. A Swissinfo dice: “Non possiamo consentire che la Cina sia il metro di riferimento per come vogliamo diventino le società occidentali”. I risultati dello studio saranno pubblicati nel 2026.

Sistema a punti e democrazia diretta

Già nel 2020, uno studio prospetticoCollegamento esterno realizzato su incarico del Ministero tedesco per la ricerca aveva presentato uno scenario su come un tale sistema a punti potrebbe essere introdotto in Germania attorno al 2030. Secondo questa ricerca, questo potrebbe tradursi anche in una migliore qualità della vita. Grazie a “un’ottimizzazione dei servizi fondamentali fondata sui dati”. Il sistema a punti potrebbe essere a servizio della politica “come strumento di prognosi e di orientamento, per ottimizzare l’economia e l’implementazione di obiettivi programmatici”.

Lo studio, comunque, sottolineava che il social scoring andrebbe concepito nell’ambito degli strumenti propri della democrazia diretta. Un tema che conosciamo bene in Svizzera.

Uno scenario nel quale sarebbe la cosiddetta Digital Liquid Democracy, ovvero la democrazia diffusa e digitale, a fissare le regole del gioco.

Sarebbe dunque la popolazione tedesca, con il supporto di “assistenti digitali“, a chinarsi periodicamente sulla questione di quali comportamenti verrebbero premiati. La buona educazione? Uno stile di vita ecologico? La rinuncia alle bevande alcoliche? La decisione su come farsi regolamentare e premiare, insomma, andrebbe presa collettivamente.

>> Scoprite come gli assistenti digitali basati sull’intelligenza artificiale potrebbero cambiare la democrazia diretta

Lo studio futuristico tedesco presentava questo scenario per il 2030 insieme ad altri cinque. Ma ne sottolineava anche i rischi. Il sistema di crediti sociali porterebbe senz’altro a “nuovi conflitti”. Chi si ritrovasse ad accumulare meno punti di altre persone, finirebbe per rimanere impigliato nel sistema, per diventare sul lungo periodo una permanente “pecora nera”.

Il divieto UE e l’intelligenza artificiale

Nel frattempo, la probabilità che questo scenario prospettato nello studio tedesco del 2020 si verifichi, sembrerebbe essersi assottigliata. Nel 2024, l’Unione Europea ha vietato gli algoritmi di intelligenza artificiale applicati a sistemi di credito sociale. In Svizzera, non c’è ancora una normativa specifica in materia.

Adam Knight, sinologo all’Università di Leida, loda l’iniziativa UE. Perché affermerebbe il principio che questi sistemi non sono compatibili con i valori europei. Dal punto di vista del Vecchio continente, infatti, il social scoring metterebbe a repentaglio la sfera privata, l’eguaglianza e processi equi, perché riduce l’umanità a un profilo algoritmico. Sottolinea Knight, che non dovremmo preoccuparci solo per la sorveglianza, ma anche per la “discriminazione automatizzata”.

SWI swissinfo.ch

Oltre 50 leggi in Cina sul credito sociale

In Cina, intanto, il sistema ha preso piede su scala nazionale. Racconta il professor Knight: “Negli ultimi anni, senza troppo scalpore, da esperimento locale e da progetti pilota dal potenziale sensazionalistico, il sistema di crediti sociali è giunto a essere uno standard dai chiari confini giuridici, che viene applicato in maniera burocratica”.

Secondo il sinologo, il punto di svolta è stato l’anno 2022: “Da quel momento, le autorità cinesi si sono date molto da fare perché il sistema di crediti sociali fosse incluso nelle direttive nazionali. Ormai ci sono oltre 50 leggi che contengono specifiche direttive sul tema”.

Le “liste della vergogna” sono tuttora al centro di questi sistemi. Tuttavia, nuove riforme hanno introdotto opzioni per “riparare i crediti”, puntando su meccanismi di premio e di riabilitazione. Specifici progetti pilota, come quanti miravano a raccogliere dati sul consumo di alcol o lo sport praticato, sono stati progressivamente mandati in pensione. Al centro ci sarebbe sempre meno l’applicazione di una “disciplina morale”, e sempre più l’economia.

Secondo il sinologo Adam Knight, in Cina esiste ormai un'”infrastruttura di applicazione” che premia i comportamenti virtuosi e punisce quelli scorretti. Copyright 2023 The Associated Press. All Rights Reserved

Anziché un unico sistema di punti, c’è allora oggi in Cina un’infrastruttura dedicata all’applicazione pratica dei crediti. A partire dai dati raccolti sulle violazioni, nasce così “un’ampia rete di campanelli d’allarme”, che può impedire a una persona di ottenere un credito bancario, un incarico professionale, un posto di lavoro, o l’accesso a servizi pubblici. “Resta quindi uno strumento potente, fondato sulla raccolta di informazioni, che consente di governare in virtù della visibilità di determinati comportamenti: quando violi le regole, lasci una traccia”, spiega Knight.

Il Registro svizzero delle esecuzioni

In ogni caso, anche nell’Unione Europea ci sono già oggi sistemi di profiling algoritmico, sostiene il professore. Il divieto UE solleva dunque la questione di come gestirli. Perché “la logica di premiare la fiducia e punire comportamenti a rischio”, sarebbe già presente “in molti sistemi occidentali”. Knight cita ad esempio le piattaforme AirBnB, Uber e Yelp, nonché le agenzie che forniscono crediti finanziari. Tutti sistemi in cui recensioni e punti possono avere conseguenze importanti.

Analoghi sistemi, peraltro, Knight li vede anche nei servizi pubblici: “Pensate per esempio alla Svizzera: il Registro delle esecuzioni contiene e rende accessibile una lista di persone che non hanno pagato delle multe, o delle fatture”. Dal momento che la presenza in questo registro può impedire di affittare un appartamento o “addirittura” di trovare un posto di lavoro, secondo Knight non è “in fondo tanto diverso da una lista nera in un sistema di credito sociale”.

Il registro delle esecuzioni in Svizzera fornisce informazioni sull’esistenza di crediti esecutivi. Keystone / Christian Beutler

Per il sinologo, comunque, la questione centrale non è se ciò sia paragonabile alla Cina. Piuttosto: “in che misura i dati raccolti, e i profili comportamentali che ne derivano, a livello mondiale sempre più influenzino l’accesso ai servizi. E quali misure vengano messe in campo per la protezione dei diritti individuali”.

Come si riconosce un sistema di credito sociale?

Il ricercatore svizzero Johan Rochel conferma: “La sfida è riconoscere il social scoring in quanto tale”. E proprio su questo aspetto, lo studio della fondazione TA-Swiss spera di fornire un contributo: la società, come dovrebbe definire un sistema di questo tipo, e come può essere messa in condizione di riconoscerne l’esistenza?

“Se nelle linee guida europee sull’intelligenza artificiale il social scoring è elencato fra le pratiche proibite, manca una definizione chiara su cosa esattamente significhi”. Questo giurista e filosofo ritiene che la questione di quali pratiche siano effettivamente proibite, verrà progressivamente chiarita dalle sentenze.

Rochel resta tuttavia pessimista su un punto: anche in futuro sarà per istanze pubbliche e private “difficile sapere con certezza se stanno in fondo applicando un sistema di credito sociale, o di altro genere”. Lo preoccupa la mancanza di un dibattito pubblico sulla questione, e “la tendenza a introdurre questi sistemi attraverso progetti pilota”.

>>> È necessario un nuovo diritto umano in ambito digitale? Leggete come il diritto all'”integrità digitale” si è affermato in due cantoni:

Particolarmente delicati sarebbero i settori che riguardano il benessere collettivo. Cita ad esempio il caso di un programma informatico che qualche anno orsono finì in prima pagina sui giornali svizzeri. Una piattaforma che consentiva al personale insegnante di segnalare studenti come “potenziali terroristiCollegamento esterno“. In seguito, la piattaforma è stata rimossa dalla ReteCollegamento esterno.

Trasporti, ambiente e salute settori a rischio

Secondo Rochel, a parte l’ambito della sicurezza sarebbero particolarmente a rischio i settori dei trasporti, dell’ambiente e della salute. L’attuale cancelliere federale tedesco Friedrich Merz in campagna elettorale ha propostoCollegamento esterno di introdurre uno sconto sui costi della cassa malati. In base al quale, chiunque mettesse a disposizione per analisi di settore le informazioni sul proprio stato di salute, potrebbe beneficiare di un ribasso del 10% sui premi.

Rochel sottolinea che tali proposte possono sembrare a un primo sguardo innocue, proprio in virtù del loro carattere volontario. Tuttavia, a differenza dei doveri e dei divieti, proprio la volontarietà diventa il punto delicato, perché facilmente si potrà trasformare in un obbligo. Per esempio, quando non partecipare si traduca in un costo troppo elevato finanziario oppure sociale.

Di fatto, la proposta di Merz all’inizio del 2025 sollevò molta attenzione, e tante critiche. Rochel si dice contento, che anche in Svizzera se ne dibatta in Parlamento. La conversazione sulla scena pubblica, dice, si configura come “una sorta di meccanismo di protezione” per prevenire l’introduzione furtiva di tali sistemi.

Il consigliere nazionale dell’Unione democratica di centro Thomas Burgherr ha depositato nel 2020 un’interrogazione su cosa pensi il Consiglio federale di fenomeni di economia comportamentale e relativi ‘trucchetti psicologici’Collegamento esterno, e quale ritenga essere il loro tasso di compatibilità con la democrazia e lo Stato di diritto. Nella sua risposta, il Governo ha precisato di vedere le “dolci spinte” come un’alternativa ai divieti, e ha scritto che in determinati settori “regolamentazioni e misure basate sull’economia comportamentale, come il nudging, sono possibili strumenti che possono essere adottati dalla Confederazione e dall’Amministrazione nell’adempimento dei loro compiti”.

Il gruppo di ricerca che ha lavorato allo studio tedesco pubblicato nel 2020, oggi si dice più scettico quanto alle conseguenze dei sistemi di credito sociale sulle istituzioni democratiche. In risposta alle domande di Swissinfo, uno degli autori, Michael Astor, ricorda che il ragionamento di combinare un sistema a punti con la democrazia diretta si fondava sull’assunto che questo avrebbe potuto proteggere il sistema contro gli abusi e avrebbe reso meno dominante il pericolo di una spaccatura nella società, per poter “adattare il sistema ai mutanti bisogni sociali”.

Rispetto a quando ha pubblicato lo studio, però, Astor è oggi meno ottimista: “In virtù dello slittamento di molte democrazie verso la destra, aumenta lo scetticismo verso forme di controllo populiste, razziste o di qualunque altra ispirazione, che possano essere implementate grazie a questi sistemi”. Di conseguenza, sfuma in lontananza quello che all’epoca il suo gruppo di ricerca presentava come “effetto positivo, perché costruisce partecipazione”.

Articolo a cura di David Eugster

Traduzione di Serena Tinari

>>> Alcune persone non vogliono usare lo smartphone per principio. Per quali ragioni?