Intelligence artificielle et discrimination: la protection en Suisse est faible

Les minorités ethniques et sexuelles, les étrangers et les femmes font partie des groupes les plus touchés par la discrimination exercée par les algorithmes d'intelligence artificielle. Keystone

En Suisse, les algorithmes pèsent de plus en plus sur des choix cruciaux comme l’embauche ou l’octroi de crédits et d’assurances. Une étude récente souligne l’insuffisance des garanties juridiques tandis que le gouvernement s’est engagé à agir.

En Suisse, les algorithmes pèsent de plus en plus sur des choix cruciaux comme l’embauche ou l’octroi de crédits et d’assurances. Une étude récente souligne l’insuffisance des garanties juridiques tandis que le gouvernement s’est engagé à agir.

En Suisse, la population n’est pas suffisamment protégée contre les risques de discrimination liés à l’usage de l’intelligence artificielle (IA). C’est ce qu’a souligné le 18 novembre un avis juridique adressé au monde politique par deux commissions fédérales: la Commission contre le racisme et la Commission pour les questions féminines.

Ce n’est pas un hasard si ces deux commissions ont décidé d’agir afin de mettre le gouvernement face aux lacunes dans la protection de la population contre les risques de l’IA. Les personnes étrangères, les minorités de genre et ethniques ainsi que les femmes figurent parmi les groupes les plus touchés. 

Plusieurs études révèlent que l’intelligence artificielle accentue les discriminations dans des domaines sensibles comme l’embauche, l’accès au crédit ou les assurances. Dans le recrutement, par exemple, les algorithmes privilégient les hommes dans 85% des cas, contre seulement 11% pour les femmes, et défavorisent systématiquement les hommes de couleur, selon une étude internationaleLien externe.

«L’intelligence artificielle perpétue et amplifie la discrimination raciale et de genre», a déclaré Ursula Schneider Schüttel, présidente de la Commission fédérale contre le racisme, lors d’une conférence nationale tenue à Berne. Cette dernière a souligné que certaines compagnies d’assurance automobile en Suisse utilisent des modèles basés sur l’IA pour calculer les primes: «Les jeunes hommes qui ne portent pas un nom typiquement suisse finissent par payer des primes plus élevées». Les médias suisses ont déjà rapporté des cas similaires.

Par rapport aux citoyens et citoyennes d’autres pays, la population suisse se trouve dans une position plus vulnérable. L’Union européenne, par exemple, a adopté en 2024 une loi spécifiqueLien externe qui oblige les fournisseurs de systèmes d’IA à haut risque à garantir la transparence et à atténuer activement la discrimination et les préjugés.

Pour ces raisons, les représentants des deux commissions estiment que la Suisse devrait agir au plus vite pour faire face à la discrimination algorithmique.

Les lacunes du droit suisse

Selon Nadja Braun Binder, professeure de droit public à l’Université de Bâle, la législation suisse comporte des failles face aux risques de discrimination liés à l’intelligence artificielle. «Il n’existe pas de vide juridique, mais la protection reste morcelée», a‑t‑elle expliqué à Swissinfo.

Si la Constitution fédérale interdit la discrimination fondée notamment sur le sexe, l’origine ou la langue, les algorithmes peuvent la contourner en exploitant des données apparemment neutres – ce que l’on appelle les «proxies» – comme le code postal ou le nom, mais qui reflètent en réalité l’origine ou la condition sociale. 

Pour Nadja Braun Binder, les lois actuelles rendent quasi impossible l’identification des discriminations au cas par cas. «On ne peut parler de phénomène systématique que lorsqu’un grand nombre de personnes sont concernées», souligne‑t‑elle.

La juriste estime qu’il faut agir pour combler ces lacunes. Selon elle, l’intelligence artificielle risque de reproduire et d’amplifier à grande échelle les discriminations déjà présentes dans la société, menaçant ainsi le progrès social. «L’IA n’est pas porteuse de progrès: elle prend des décisions conservatrices fondées sur les données historiques qui l’ont formée», met‑elle en garde. 

Pour cette raison, dans l’avis juridique rédigé à l’intention des commissions, Nadja Braun Binder et son collègue Florent Thouvenin de l’Université de Zurich invitent la classe politique à travailler sur une loi générale contre la discrimination qui s’applique à divers secteurs, tant publics que privés. «L’IA offre aussi une opportunité: celle d’identifier la discrimination dans notre société et de la corriger», affirme la juriste.

Le gouvernement suisse se dit «contraint d’agir»

Dans un entretien avec Swissinfo, la ministre de l’Intérieur Elisabeth Baume‑Schneider a assuré prendre très au sérieux les recommandations des deux juristes. «Nous avons réellement pris conscience de la nécessité de définir de manière plus transparente le rôle des algorithmes dans les décisions qui ont un impact sur la population», a indiqué la conseillère fédérale.

Selon cette dernière, l’intelligence artificielle, désormais omniprésente, risque d’accélérer et de généraliser les discriminations, notamment envers les personnes déjà fragilisées, pauvres ou marginalisées. Elisabeth Baume‑Schneider insiste donc sur l’importance de garantir la transparence dans toutes les décisions – médicales, sociales, éducatives ou financières – prises avec l’appui de l’IA. 

La Confédération a choisi de franchir une première étape dans cette direction en ratifiantLien externe la Convention sur l’intelligence artificielle du Conseil de l’Europe. Ce traité international entend assurer que l’usage des technologies d’IA respecte les droits fondamentaux, notamment le principe de non‑discrimination.

Elisabeth Baume‑Schneider estime que la Suisse doit s’engager à appliquer la Convention du Conseil de l’Europe. Pour la juriste Nadja Braun Binder, cette signature constitue un signal encourageant, incitant le pays à adopter des mesures plus concrètes contre les discriminations liées à l’intelligence artificielle.

La conseillère fédérale a confirmé à Swissinfo que Berne travaille déjà à adapter sa législation à la convention et à mettre en place un cadre juridique destiné à combler les lacunes actuelles. Le Conseil fédéral, puis le Parlement devront ensuite se prononcer sur d’éventuelles révisions législatives.

Elisabeth Baume‑Schneider admet que l’avis juridique de Nadja Braun Binder et Florent Thouvenin contraint le gouvernement à agir, soulignant l’urgence politique du dossier. «Il ne s’agit pas de diaboliser les algorithmes, précise‑t‑elle, mais de reconnaître que des décisions opaques prises par l’IA peuvent avoir des répercussions politiques, juridiques et économiques.» 

Texte relu et vérifié par Marc Leutenegger, traduit de l’italien à l’aide de l’IA/op