Quand l’IA s’invite dans le débat démocratique suisse

La campagne autour de l’initiative «Non à une Suisse à 10 millions!» a été marquée par une forte polarisation. Algorithm Watch CH et l’Université de Zurich ont analysé les résumés générés par l’IA qui apparaissent souvent en tête des résultats de recherche sur Google et Bing. Gian Ehrenzeller / Keystone

Des études montrent que les résumés générés par l’IA et les chatbots peuvent influencer subtilement la formation de l’opinion. Face à leur rôle croissant dans l’accès à l’information, des chercheurs et l’organisation AlgorithmWatch CH demandent davantage de transparence et un meilleur encadrement.

C’est un facteur souvent invisible du débat démocratique : l’intelligence artificielle modifie la manière dont les gens s’informent. «L’importance des résumés générés par l’IA dans la formation de l’opinion démocratique ne cesse de croître», explique Corinna Hertweck, chercheuse au sein de l’organisation de la société civile AlgorithmWatch CH.

Lors de la campagne précédant la votation sur l’initiative populaire «Pas de Suisse à 10 millions!», AlgorithmWatch CH a analysé plus de 170’000 requêtes de recherche générées automatiquement, en collaboration avec l’Institut d’informatique de l’Université de Zurich. Les chercheurs ont examiné à quelle fréquence les moteurs de recherche Google et Bing affichaient un résumé généré par l’IA en réponse à ces requêtes, ainsi que les sources utilisées pour produire ces synthèses.

Dans le cadre de cette étude, 43% des requêtes effectuées sur Google ont donné lieu à l’affichage d’un résumé généré par l’IA. Environ un tiers des sources mobilisées étaient équilibrées, principalement des articles de presse ou des sites d’autorités publiques.

Les chercheurs ont également examiné, entre autres, combien de sources citées dans l’ensemble des résumés générés par l’IA étaient favorables ou opposées à l’initiative. Il est apparu qu’une plus grande part des sources utilisées adoptait une position critique à l’égard du texte. AlgorithmWatch CH souligne toutefois que ce constat ne permet pas de tirer de conclusions sur l’éventuel biais des réponses générées par l’IA.

En règle générale, les résumés générés par l’IA exposent les arguments des deux camps. «Mais il arrive que la position de l’un soit développée plus longuement, tandis que l’autre est reléguée à une simple mention», relève Corinna Hertweck. Il ne s’agit toutefois que d’observations préliminaires. L’évaluation quantitative de l’équilibre des réponses reste à faire.

Le cadrage de l’information peut influencer l’opinion

Cette influence discrète inquiète Corinna Hertweck. «Des millions de personnes utilisent Google et se voient proposer ces résumés générés par l’IA, souligne-t-elle. Un cadrage aussi subtil peut influencer la formation de l’opinion.»

Lors de la campagne très polarisée sur l’initiative «Pas de Suisse à 10 millions!» lancée par l’Union démocratique du centre (UDC / droite conservatrice), l’agence zurichoise Feinheit a elle aussi analysé les chatbots et les résumés générés par l’IA. Sa conclusion: ChatGPT et Google Gemini accordaient davantage de place aux arguments du camp du non. Selon Feinheit, les résumés IA de GoogleLien externe se situaient ainsi «du côté des initiants».

Des chercheurs des universités du Maryland et de Washington ont montré Lien externeque les résumés générés par l’IA exercent une influence particulière sur les personnes les moins familières d’un sujet ou celles qui font davantage confiance à l’intelligence artificielle. Dès lors, le rôle des modèles d’IA comme intermédiaires de l’information réputés neutres prend une importance croissante dans la démocratie directe suisse.

« Lorsque je pose une question à Google, ce ne sont souvent plus plusieurs liens qui apparaissent en tête des résultats, mais simplement une réponse générée par l’IA, explique Corinna Hertweck. Elle paraît plausible et dégage une forme d’autorité. » Le nombre de « zero-click searches », ces recherches pour lesquelles les internautes ne quittent pas Google, est en hausse. « On est alors davantage tenté de relâcher son esprit critique », poursuit la chercheuse.

Brochure explicative et résumés IA: des différences fondamentales

En Suisse, le débat sur ce qui constitue une information neutre, et sur les conditions permettant de la qualifier comme telle, fait partie intégrante de la vie démocratique. Il resurgit régulièrement, notamment à propos de la couverture de l’actualité par les médias de service public, dont Swissinfo fait partie.

Plus vifs encore sont parfois les débats autour de la brochure explicative que les Suisses reçoivent avec leur matériel de vote. Les informations qu’elle contient doivent être neutres et les arguments comme les prises de position des partisans et des opposants bénéficier d’une place équivalente.

Il en va autrement de la publicité politique liée aux votations, qui n’est soumise à aucun plafonnement des dépenses. Sa visibilité dans l’espace public dépend donc largement des moyens financiers engagés.

Les résumés générés par les moteurs de recherche et les chatbots font émerger une source d’information de plus en plus influente dans la démocratie suisse, sans qu’elle ait fait l’objet d’un débat démocratique. Et personne ne sait précisément sur quels fondements reposent les réponses qu’elle produit, malgré leur apparente neutralité.

Une menace pour la diversité des médias

Corinna Hertweck en tire une conclusion claire : « Le public doit pouvoir comprendre comment sont produits les résumés générés par l’IA. » Selon elle, la concentration du pouvoir de marché entre les mains d’un très petit nombre d’entreprises constitue une menace pour la diversité des médias et la qualité de l’information.

La chercheuse met également en garde contre l’impasse économique que représentent les « zero-click searches » sur Google : « Lorsque les internautes restent sur Google, cela affaiblit la diversité médiatique. Les entreprises de presse perdent des clics et, avec eux, une partie des revenus qui financent un journalisme de qualité. »

À terme, les sources fiables sur lesquelles s’appuient les résumés générés par l’IA risquent elles-mêmes de disparaître. Corinna Hertweck estime par ailleurs que des entreprises comme Google devraient reconnaître qu’elles ne se contentent plus de diffuser des contenus : avec leurs résumés générés par l’IA, elles en produisent désormais elles-mêmes.

Corinna Hertweck évoque également une « zone grise » dans le projet de loi suisse sur les plateformes de communication et les moteurs de recherche. « L’intégration de l’IA générative n’y est pas explicitement prise en compte par la réglementation, alors même que nous la voyons de plus en plus souvent à l’œuvre, notamment dans les résumés générés par l’IA », explique-t-elle.

«Tout évolue à une vitesse folle»

Corinna Hertweck dirige le projet de recherche « RAISD » au sein d’AlgorithmWatch CH. Selon elle, l’IA générative influence la démocratie dans la mesure où elle joue un rôle dans la formation de l’opinion individuelle. Or les personnes concernées peuvent aussi être des acteurs politiques. « Outre les résumés générés par l’IA, nous voulons par exemple examiner comment les chatbots sont utilisés en politique, notamment par les élus ou leurs collaborateurs. Les conséquences pourraient être considérables si ces outils participent à la rédaction de projets de loi », explique-t-elle à propos des prochaines étapes du projet.

Le programme de recherche « RAISD » étudie jusqu’en 2028 les interactions entre l’intelligence artificielle, la démocratie et la société. Corinna Hertweck se garde toutefois de prédire à quoi ressemblera l’IA générative à cette échéance. « Tout évolue à une vitesse folle. Pour les responsables politiques comme pour les chercheurs, c’est un véritable défi », relève-t-elle.

Selon une étude d’Oxford, l’IA peut «orienter l’opinion collective»

L’IA intervient aussi dans les discussions entre personnes. Une récente étude menée par les universités d’Oxford et de Potsdam montre que les utilisateurs peuvent perdre le contrôle de leurs propres formulations lorsqu’ils confient leurs textes à une IA pour les retravailler.

L’étude intitulée « La communication médiée par l’IA peut orienter l’opinion collective » Lien externeest arrivée à cette conclusion. Les chercheurs en informatique ont demandé à des modèles d’IA d’« améliorer » des messages exprimant une opinion. Les modèles ont alors atténué certaines positions, voire les ont inversées, sur des sujets tels que l’avortement, le féminisme ou le changement climatique.

La professeure Sandra Wachter et son équipe ont ensuite cherché à déterminer les effets de ces interactions. Selon leurs calculs, lorsqu’une publication LinkedIn influencée par une IA suscite une réponse elle-même retravaillée par une IA, le débat se déplace peu à peu. Une évolution qui affecte aussi bien les participants à la discussion que les personnes qui la suivent de l’extérieur.

Un biais anti-avortement chez Grok

« Nos travaux montrent qu’il est nécessaire d’ouvrir un débat plus large sur les modèles de langage et les entreprises qui les développent, car les décideurs politiques n’avaient peut-être pas conscience de ces risques lorsqu’ils ont élaboré l’AI Act », écrit Sandra Wachter en réponse à une demande de Swissinfo.

L’AI Act de l’Union européenne impose certes un étiquetage des contenus générés par l’IA. Mais, selon la chercheuse, cette obligation vise principalement les images, les contenus audio et les vidéos. Il est en revanche « peu probable » qu’elle s’applique aux textes.

L’étude conclut par ailleurs que Grok, le modèle d’IA d’Elon Musk, présente un biais défavorable à l’avortement. Si tous les modèles d’IA comportent des biais, souvent liés aux données et aux contenus utilisés pour leur entraînement, l’équipe de Sandra Wachter a trouvé des éléments indiquant qu’une instruction spécifique intégrée par les développeurs conduit Grok à privilégier une position antiavortement.

Texte relu et vérifié par Samuel Jaberg, adapté de l’allemand par Olivier Pauchard