L’IA opte pour le courant dominant, selon une expérience de l’EPFZ

Dans l’expérience, les modèles d’IA ont montré un «comportement plus uniforme» que les humains. László D. / Unsplash

Une expérience menée à l’École polytechnique fédérale de Zurich (EPFZ) montre que ChatGPT vote différemment des êtres humains. Joshua Yang, informaticien à l’EPFZ, explique à swissinfo.ch comment l’intelligence artificielle va transformer la démocratie.

Si ChatGPT pouvait voter, le modèle de langage opterait probablement pour des partis bien connus. C’est ce que révèle une étude scientifique menée par l’EPFZ. Selon cette recherche, ChatGPT prend des décisions plus rationnelles que les humains.

Comment l’équipe de sciences sociales computationnelles de l’EPFZ est-elle parvenue à ce résultat? Les grands modèles de langage sont programmés pour répondre de manière évasive aux questions politiques. «Lorsque l’on a demandé à ChatGPT s’il fallait voter pour Donald Trump ou Kamala Harris, l’IA a répondu qu’elle était neutre et n’a pas donné de réponse», indique Joshua Yang, informaticien à l’EPFZ.

ChatGPT, LLaMa et 180 personnes

Joshua Yang fait partie de l’équipe de sciences sociales computationnelles de l’EPFZ et participe aux projets «Kultur Komitee Winterthur», «Stadtidee Aarau» et «vTaiwan». zVg

L’équipe de sciences sociales computationnelles n’a donc pas interrogé les modèles d’IA sur des décisions politiques importantes, mais leur a demandé leur avis sur des projets d’urbanisme locaux, a priori apolitiques. Les modèles utilisés étaient ChatGPT-4 et LLaMA-2.

Parmi les projets concernant la ville de Zurich figuraient notamment une Langstrasse sans voitures, un festival multiculturel sur la Sechseläutenplatz ou une fête pour les enfants dans le Leutschenpark. Lequel des 24 projets l’IA choisirait-elle pour améliorer la qualité de vie des habitantes et habitants de Zurich?

Les scientifiques ont ensuite comparé les résultats des modèles d’IA avec ceux de 180 participantes et participants humains dans le cadre d’une expérience analogue portant sur les mêmes projets.

Les personnes et les modèles d’IA ont fait leurs choix dans des sessions aux configurations et procédures de vote différentes. Parfois, ils attribuaient des points aux projets. D’autres fois, ils sélectionnaient autant de projets qu’ils le souhaitaient. Des tests ont également été réalisés avec le système de vote préférentielLien externe (ranked-choice voting).

Les résultats de cette expérience peuvent être appliqués principalement aux décisions de budget participatif et aux élections avec plusieurs personnes vainqueures, telles que les élections selon le système proportionnel: les partis envoient un nombre de représentantes et représentants au parlement selon le pourcentage des voix obtenues.

En revanche, la portée de l’étude de l’EPFZ est limitée en ce qui concerne les élections à une seule personne vainqueure, comme l’élection présidentielle américaine.

Les modèles d’IA montrent un «comportement plus uniforme»

De manière générale, les différences entre les humains et l’IA étaient importantes. Même lorsque l’IA était invitée à adopter le rôle d’un être humain.

Les modèles d’IA choisissaient souvent le même nombre de projets et montraient un «comportement plus uniforme» que les humains, relève l’étudeLien externe.

swissinof.ch / Kai Reusser

ChatGPT optait presque systématiquement pour quatre ou cinq projets, alors que les 180 participantes et participants humains manifestaient un intérêt pour un éventail de projets nettement plus diversifié.

Selon l’étude, ce résultat confirme que «les échantillons synthétiques simulés par l’IA présentent un biais WEIRD (occidental, éduqué, industrialisé, riche, démocratique)» et «ne montrent souvent aucune variance (ou diversité) significative dans leurs jugements».

En outre, l’IA se laissait même influencer dans sa décision par l’ordre des projets sur la liste. Cela montre les limites de ses capacités décisionnelles: imaginez que des personnes votent pour un parti simplement parce qu’il figure en bas plutôt qu’en haut du bulletin de vote.

«Une approche centrée sur l’humain» est essentielle

Les modèles d’IA ont tendance à choisir des projets peu coûteux. L’étude reconnaît ce fait et souligne que les électrices et électeurs humains n’ont souvent pas conscience des coûts.

Les recherches de l’équipe de l’EPFZ font référence aux idées de César Hidalgo sur les jumeaux numériques pilotés par l’IA destinés à remplacer les politiciennes et politiciens. Elles s’inspirent également de la proposition de deux économistes d’attribuer à chaque personne ayant le droit de vote un jumeau numérique.

L’étudeLien externe présentée par Joshua Yang lors de la Conference on AI, Ethics, and Society à San José, en Californie, appelle à la prudence. Une «approche centrée sur l’humain» est «essentielle» pour que l’IA soutienne et ne compromette pas «l’intelligence collective qui émerge de la diversité des préférences humaines dans la société».

L’IA devrait donc être utilisée «dans un cadre Human in the loop». Un agent IA pourrait ainsi améliorer la prise de décision humaine, par exemple en traitant, en résumant ou en expliquant des connaissances de base sur un sujet.

Comment réglementer l’utilisation des données personnelles sensibles?

«Notre objectif était de comprendre comment les modèles de langage influencent la démocratie telle que nous la connaissons», explique Joshua Yang. «Aujourd’hui déjà, de nombreuses personnes posent leurs questions à ChatGPT. Le modèle de langage les informe, influençant ainsi leurs décisions politiques.»

La question délicate reste celle du traitement des données personnelles. «Quelles informations fournissons-nous à une IA lorsqu’on lui demande d’adopter le point de vue d’une personne?» Il est possible de se baser sur des données démographiques sensibles telles que la couleur de peau et la religion, voire sur la transcription d’une longue conversation personnelle avec la personne concernée.

On peut également créer des personas sur la base d’un sondage d’opinion, comme le fait Smartvote. Dans son expérience, l’équipe de l’EPFZ a opté pour cette méthode. Selon Joshua Yang, celle-ci n’est peut-être pas moins efficace. Il espère l’élaboration de lignes directrices éthiques et juridiques claires ainsi qu’un débat de société sur la manière de tracer la limite entre fonctionnalité et vie privée.

La démocratie suisse, un «terrain d’essai idéal» pour les agents IA

Si l’étude met plutôt l’accent sur les aspects critiques des modèles d’IA, Joshua Yang se montre néanmoins enthousiaste à leur égard: «Je suis prudemment optimiste quant au potentiel de l’IA pour la démocratie.» L’IA pourrait aider les gens à prendre des décisions plus fréquentes et éclairées, sans pour autant leur retirer leur capacité d’agir (agency).

La Suisse, avec ses nombreuses votations populaires, représente, selon Joshua Yang, «un terrain d’essai idéal» pour les technologies d’IA. Les modèles d’IA seraient plus efficaces pour aider à prendre des décisions rationnelles lors de votations populaires que lors d’élections qui suscitent plus d’émotions. Ils pourraient notamment contribuer à augmenter la participation électorale sur des questions locales.

On pourrait imaginer une brochure de votation numérique que les Suissesses et Suisses ne se contenteraient pas de lire, mais pourraient interroger. Cela pourrait motiver celles et ceux qui s’abstiennent de voter, faute de connaissances suffisantes.

«Si un agent IA spécifique est conçu avec toutes les données pertinentes pour cette tâche, le risque qu’il transmette de fausses informations se révèle nettement plus faible. Les agents IA hallucinent lorsqu’ils n’ont pas accès à la bonne réponse», souligne Joshua Yang.

Les grands modèles de langage tels que ChatGPT ne sont toutefois pas adaptés à cette tâche, car ils s’appuient à la fois sur des données pertinentes et sur des informations trompeuses.

À l’échelle mondiale, Joshua Yang, qui participe à des projets de démocratie locale en Suisse et à Taïwan, voit dans l’IA une opportunité de donner un nouvel élan aux instruments de démocratie directe (et délibérative). Dans un premier temps, ce sont des politiciennes et des politiciens ainsi que certains groupes qui feront appel à des agents d’IA pour passer au crible les débats et formuler des arguments, des compromis et des pistes d’action, estime Joshua Yang.

Peu à peu, les agents IA pourraient alors faire partie intégrante des institutions.

Texte relu et vérifié par Mark Livingston, traduit de l’allemand par Zélie Schaller/op