Les systèmes de bonus à la chinoise menacent-ils des démocraties comme la Suisse?

Que se passerait-il si l'on attribuait des points à chaque personne pour bon comportement? Ce scénario comporte de nombreux risques. SWI swissinfo.ch / Vera Leysinger

Le système de crédit social chinois a suscité des craintes quant à l'émergence d'un phénomène similaire ailleurs. Une équipe suisse mène actuellement des recherches sur la manière dont les démocraties peuvent empêcher le «social scoring».

Une société dans laquelle on est récompensé quand on se parque correctement et quand on mène une vie saine: voilà qui paraît souhaitable aux yeux de certains. Pour beaucoup d’autres, un tel programme est plutôt préoccupant. Même un système de points bonus, qui ne ferait que récompenser sans punir, pourrait marginaliser les personnes avec peu de points.

Des projets pilotes en Chine, tout comme des films dystopiques, ont largement sensibilisé à la question, qui porte plusieurs noms. Les cercles critiques vis-à-vis de l’Etat parlent de «nudge» étatique, d’autres de systèmes de notation sociale, de bonus ou de crédit social.

«La Chine ne doit pas être notre échelle de valeurs pour ce que nous voulons dans nos sociétés d’Europe occidentale», estime Johan Rochel. Ce Suisse fait partie d’une équipe qui mène des recherches sur le sujet pour la Fondation pour l’évaluation des choix technologiques TA-Swiss. Les résultats de l’étude seront présentés en 2026.

Un système de bonus avec démocratie directe dans l’Allemagne du futur

En 2020 déjà, une étude prospective commandée par le ministère allemand de la RechercheLien externe élaborait un scénario sur la manière dont un tel «système de bonus» pourrait être mis sur pied dans le pays à partir des années 2030.

L’idée étant que se doter d’un tel système permettrait à l’Allemagne d’offrir une meilleure qualité de vie. Selon l’étude, «l’optimisation des services publics basée sur les données» rendrait un tel scénario possible. Le système de points servirait aux responsables politiques «d’outil de prévision et de pilotage pour optimiser l’économie et mettre des objectifs en œuvre».

Selon l’étude, dans le cadre de la démocratie représentative qu’est l’Allemagne, le «social scoring» devrait toutefois être associé à des instruments de démocratie directe, tels qu’on les connaît en Suisse.

Dans un tel scénario, les «règles du jeu» du système seraient définies par une nouvelle «démocratie liquide numérique».

Avec l’aide d’assistants numériques, les citoyennes et citoyens du pays seraient amenés à ajuster en permanence les comportements récompensés: la politesse? Un mode de vie écologique? Le renoncement à l’alcool? Tous devraient avoir leur mot à dire sur le système qui les régule et les récompense.

Lisez ici notre article sur la manière dont les assistants numériques d’intelligence artificielle pourraient changer la démocratie directe :

L’étude prospective, qui explore ce scénario parmi six autres pour 2030, met également en évidence des désavantages; le système de bonus entraînerait probablement de «nouveaux conflits», avance-t-elle. Quiconque aurait moins de points que ses concitoyens aurait du mal à sortir de ce schéma et ferait partie des «laissés-pour-compte permanents».

La notation sociale par le biais de l’IA interdite dans l’UE

Depuis la parution de l’étude, il y a cinq ans, la probabilité d’un tel scénario a plutôt diminué. L’année dernière, l’Union européenne a interdit les algorithmes d’IA utilisés à des fins de notation sociale. En Suisse, cependant, il n’existe pas encore de législation de ce type.

Le sinologue Adam Knight, de l’université de Leyden (Pays-Bas), salue l’interdiction de l’UE. Elle est pour lui le signe clair que le «scoring social» est incompatible avec les valeurs européennes.

En réduisant les personnes à des profils algorithmiques, il menacerait la vie privée, l’égalité et les procédures régulières. Ce n’est pas juste la surveillance qui est à craindre, mais également une «discrimination automatisée», appuie le chercheur.

SWI swissinfo.ch / Kai Reusser

Plus de 50 lois sur le crédit social en Chine

Entretemps, en Chine, le système s’est désormais établi à l’échelle nationale, où il est «discrètement passé d’expériences locales et de projets pilotes sensationnalistes à une normalisation juridique et une mise en œuvre bureaucratique», selon Adam Knight.

Pour le sinologue, le tournant est survenu en 2022. «Depuis, les autorités se sont attachées à intégrer les mécanismes de crédit dans la réglementation nationale, et plus de 50 lois contiennent désormais des dispositions relatives au crédit social.»

Si les listes noires restent encore centrales, de nouvelles réformes ont ouvert la possibilité de «réparer le crédit», en misant sur la récompense et la réhabilitation. Des projets pilotes tels que la saisie de la consommation d’alcool et les entraînements ont été «discrètement abandonnés». Il est moins question de «discipline morale» que d’économie.

Au lieu d’un score unique, il existe désormais en Chine une «infrastructure de mise en application». Les données relatives aux infractions déclenchent un «vaste réseau de signaux d’alerte» qui peuvent empêcher l’accès au crédit, aux contrats, à l’emploi ou aux services publics.

Selon le sinologue Adam Knight, il existe désormais en Chine une « infrastructure d’application » qui récompense les bons comportements et punit les mauvais. Copyright 2023 The Associated Press. All Rights Reserved

«Au final, vous avez un outil puissant, piloté par les données, pour gouverner par la visibilité: si vous enfreignez les règles, cela laisse une trace», explique Adam Knight.

Qu’en est-il du registre des poursuites en Suisse?

Mais le «profilage algorithmique» existe déjà dans l’UE, selon Adam Knight. L’interdiction européenne soulève donc la question de savoir comment le traiter. Selon le sinologue, la «logique consistant à récompenser la confiance et à punir les risques» existe «également dans de nombreux systèmes occidentaux».

Adam Knight cite des offres telles que AirBnB, Uber et Yelp, ainsi que les agences de crédit, pour lesquelles évaluations et scores ont des conséquences importantes. Il voit également des systèmes analogues du côté de l’État. «En Suisse, par exemple, le registre des poursuites répertorie publiquement les personnes qui n’ont pas payé leurs amendes ou leurs factures.»

Que des inscriptions au registre des poursuites puissent empêcher une personne d’obtenir un logement, «voire» un emploi, n’est pas complètement différent d’une liste noire dans le système de crédit social.

En Suisse, le registre des poursuites permet de savoir s’il existe des créances exécutoires contre quelqu’un. Keystone / Christian Beutler

Pour le sinologue, la question décisive n’est pas de savoir à quel point cela est similaire à ce qui est en vigueur en Chine, mais plutôt de savoir «comment les données et les profils comportementaux influencent de plus en plus l’accès aux services dans le monde entier et quelles mesures de sécurité sont mises en place pour protéger les droits individuels».

Comment reconnaître le «social scoring»?

«Le véritable défi, c’est de reconnaître le ‘social scoring’ en tant que tel», estime le scientifique suisse Johan Rochel. C’est précisément à cette question que le projet de recherche TA-Swiss entend contribuer: comment la société doit-elle définir le «social scoring» et comment peut-elle le reconnaître?

«Dans les directives européennes sur l’IA, le ‘social scoring’ fait partie des applications interdites, souligne le juriste et philosophe. Mais il manque encore une définition claire de ce qu’il recouvre exactement.» La réponse de l’UE pourrait bientôt être apportée par des cas portés devant la justice, avance le philosophe.

Johan Rochel s’attend toutefois à ce que les autorités publiques comme les entreprises privées «ne sachent elles-mêmes pas si elles utilisent un système de notation sociale ou autre chose». Il craint l’absence de débats publics sur la question et «l’introduction d’une logique de projet pilote».

Faut-il un nouveau droit humain en matière de numérique? Lisez ici comment le droit à «l’intégrité numérique» s’est imposé dans deux cantons :

Tous les domaines liés au bien commun sont particulièrement sensibles. Il cite l’exemple d’un logiciel qui a fait les gros titres en Suisse il y a quelques années. Le «radicalisation profiling (Ra-Prof)» permettait au corps enseignant de signaler les élèves comme étant susceptibles de commettre des actes terroristesLien externe. Le site web est désormais inactifLien externe.

Les transports, l’environnement et la santé sont des domaines à risque

Selon le chercheur, en plus de la sécurité publique, les domaines des transports, de l’environnement et de la santé présentent également des risques. Au début 2025, lors de la dernière campagne électorale allemande, le futur chancelier Friedrich Merz a proposéLien externe une réduction des cotisations d’assurance maladie: toutes les personnes qui mettraient leurs données de santé à disposition pour analyse bénéficieraient d’une réduction de 10%.

À première vue, de telles propositions semblent inoffensives, notamment en raison de leur caractère volontaire, indique Johan Rochel. Mais contrairement à une obligation ou à une interdiction, le caractère volontaire s’estompe lorsque l’offre volontaire devient de facto obligatoire – par exemple, lorsque le prix social ou financier de la non-participation devient trop élevé.

Toutefois, la proposition de Merz début 2025 a suscité beaucoup d’échos et de critiques. Un débat parlementaire sur le même sujet s’est déjà tenu en Suisse, à la satisfaction de Johan Rochel. Il qualifie cette mise sur la place publique de «sorte de mécanisme de protection» contre une introduction insidieuse.

En 2020, le conseiller national UDC Thomas Burgherr interpellait le Conseil fédéral sur sa position concernant des méthodes d’économie comportementale, notamment la technique dite du coup de pouce (nudging),Lien externe et sur la compatibilité de celles-ci avec la démocratie et l’État de droit.

La réponse du Conseil fédéral montre qu’il considère les nudges comme une alternative aux interdictions et que «les enseignements et méthodes de l’économie comportementale peuvent (…) jouer un rôle dans certains domaines».

L’équipe derrière l’étude prospective allemande se montre, elle, un peu plus sceptique quant aux effets des mécanismes démocratiques. Contacté par Swissinfo, l’auteur Michael Astor explique que les arguments en faveur de la combinaison du système de bonus et de la démocratie directe étaient de protéger le système contre les abus, d’atténuer le risque de division sociale et d’adapter le système de bonus aux «besoins changeants de la société».

Il se montre plus critique à l’égard de ce scénario que lors de la parution de l’étude en 2020. «Au vu de la dérive vers la droite de nombreuses démocraties, le scepticisme à l’égard d’un contrôle social motivé par des considérations ethniques, racistes ou autres, qui peut être mis en œuvre à l’aide de systèmes adaptés, va croissant.» Il ne peut que constater que l’«effet positif, car participatif» que son équipe espérait voir se produire s’éloigne de plus en plus.

Texte relu et vérifié par David Eugster, traduit de l’allemand par Albertine Bourget/ptur

Lisez aussi notre article sur les personnes qui n’utilisent pas de smartphone par principe: