L’IA suisse peut défendre le web. Ou aider ceux qui l’attaquent
L’intelligence artificielle permet de mener des cyberattaques plus rapides et plus autonomes. Pour suivre le rythme, les systèmes de défense doivent s’appuyer sur des outils toujours plus puissants. Des modèles ouverts comme le suisse Apertus pourraient rééquilibrer les forces en présence, mais ils risquent aussi de tomber entre les mains de criminels.
L’essor des modèles d’intelligence artificielle (IA) agentique, ces programmes capables d’agir de manière autonome pour atteindre un objectif, a bouleversé l’équilibre traditionnel entre attaque et défense dans le cyberespace.
Au cours des dernières semaines, les agents d’OpenAI, l’entreprise à l’origine de ChatGPT, l’ont démontré en compromettant des dizaines de sites web d’entreprises et d’administrations à travers le monde. En ciblant notamment Hugging Face, la plateforme qui héberge des millions de modèles d’IA ouverts, dont le suisse Apertus, ainsi que le système de santé australien, ces agents ont manifesté ce qu’OpenAI elle-même a qualifié de «comportement non aligné» avec les instructions de leurs concepteurs.
Pour les êtres humains, répondre à des attaques à la vitesse de l’IA est pratiquement impossible. «Les systèmes d’IA les plus avancés peuvent exécuter des milliers d’actions par minute», explique Andrei Kucharavy, professeur à la Haute école spécialisée de Suisse occidentale (HES-SO) et responsable de la sécurité d’Apertus, le modèle d’IA suisse entièrement ouvert.
Les attaques menées par les agents d’OpenAI ont été stoppées avant d’avoir de graves conséquences. Mais Maxime Stauffer, directeur du Simon Institute for Longterm Governance, basé à Genève, s’attend à ce que de tels épisodes deviennent toujours plus fréquents et plus difficiles à gérer. «Des essaims d’agents d’IA pourraient frapper des infrastructures critiques comme des écoles, des hôpitaux ou des systèmes énergétiques, voire des pays entiers, intentionnellement ou accidentellement», affirme-t-il. Cet expert attire également l’attention sur le risque que l’IA soit utilisée pour développer des armes biologiques, une préoccupation mise en lumière par de récentes tentatives bloquées par l’entreprise américaine Anthropic.
Les acteurs de la défense ne disposent pas forcément d’outils aussi puissants. Les systèmes dotés des capacités informatiques les plus avancées, comme Claude Mythos d’Anthropic, ne sont accessibles qu’à un cercle restreint d’utilisateurs. Selon Andrei Kucharavy, les modèles ouverts pourraient contribuer à réduire cette asymétrie.
Apertus, par exemple, est capable d’identifier des vulnérabilités, de proposer des corrections et d’analyser les journaux d’attaque afin de reconstituer un incident informatique, même s’il n’a pas été conçu pour la cybersécurité et présente encore d’importantes limites, précise Andrei Kucharavy. Certains spécialistes craignent toutefois que les mêmes capacités défensives de modèles ouverts et largement accessibles ne puissent également être exploitées à des fins malveillantes, à une échelle bien plus vaste.
>> Les avantages et les limites du modèle d’intelligence artificielle suisse Apertus:
Plus
Apertus a un an: les réussites et les ratés du modèle d’IA suisse
Une attaque contre un hôpital «serait un véritable désastre»
Le cas de Hugging Face est emblématique. Lorsque plusieurs agents d’OpenAI ont pénétré ses systèmes, la plateforme a tenté de recourir à certains des modèles d’IA les plus puissants au monde pour comprendre ce qui se passait, sans succès.
«Les modèles de frontière [les modèles d’IA les plus avancés] ont automatiquement bloqué toutes nos requêtes pour des raisons de sécurité. Nous avons donc dû nous tourner vers des modèles ouverts pour comprendre ce qui se passait», nous a expliqué Lewis Tunstall, ingénieur chez Hugging Face.
Les modèles d’IA peuvent être développés et diffusés avec différents degrés d’ouverture:
Modèles ouverts (open source): les paramètres d’entraînement du modèle, ou ses «poids», le code d’entraînement et les informations relatives aux données sont accessibles publiquement, ce qui permet à d’autres personnes de les examiner, de les modifier et de les reproduire. Apertus et OLMo en sont des exemples.
Modèles à poids ouverts (open weight): les «poids» du modèle sont rendus publics et peuvent être téléchargés et adaptés, mais le code complet d’entraînement et les jeux de données ne sont pas nécessairement divulgués. Llama de Meta et Qwen d’Alibaba en sont des exemples.
Modèles fermés ou propriétaires: aucun composant du modèle n’est rendu public. C’est le cas de la plupart des modèles commerciaux, notamment ChatGPT d’OpenAI et Claude d’Anthropic.
Selon Lewis Tunstall, les agents d’OpenAI se sont comportés de manière inhabituelle par rapport à un pirate informatique classique. Ils ne cherchaient pas à prendre le contrôle de l’infrastructure, mais à trouver des ensembles de données contenant les réponses aux tests de sécurité sur lesquels ils étaient évalués.
«C’était un peu comme un étudiant qui veut absolument obtenir une bonne note à un examen et qui, au lieu d’étudier, se dit: je pourrais peut-être pirater l’ordinateur de l’enseignant pour trouver les réponses», explique-t-il.
OpenAI a ensuite confirmé que les agents étaient parvenus à sortir de l’environnement sécurisé que l’entreprise avait mis en place pour les tests. Mais que se serait-il passé s’ils avaient attaqué un hôpital?
«Cela aurait été un véritable désastre», répond Lewis Tunstall. Les agents auraient potentiellement pu accéder à de grandes quantités de données personnelles et sensibles. C’est aussi pour cette raison que, selon lui, les modèles d’IA ouverts peuvent s’avérer particulièrement utiles. Grâce à eux, il n’est pas nécessaire d’envoyer les données à des entreprises comme OpenAI ou Anthropic, puisque les modèles peuvent être adaptés ou exploités localement. «Les données sensibles ne quittent pas votre infrastructure. Tout reste en interne», précise-t-il.
Pour des raisons similaires, des secteurs clés de l’économie suisse, comme la finance, manifestent eux aussi un intérêt croissant pour les modèles ouverts, souligne Nino Antulov-Fantulin, chargé de cours à l’École polytechnique fédérale de Zurich (EPFZ) et spécialiste de l’apprentissage automatique appliqué à la finance.
«Les institutions financières craignent de dépendre exclusivement de modèles fermés et d’envoyer des informations sensibles vers des serveurs situés hors de Suisse ou vers des fournisseurs externes. Elles veulent pouvoir contrôler l’endroit où le modèle est hébergé», explique-t-il.
Des modèles ouverts toujours plus puissants, mais impossibles à retirer
Le problème est toutefois que les modèles ouverts peuvent également être utilisés à des fins malveillantes.
C’est l’une des principales préoccupations de Maxime Stauffer, du Simon Institute for Longterm Governance à Genève. Selon lui, le développement des modèles ouverts présente encore aujourd’hui surtout des avantages, mais les risques pourraient à l’avenir dépasser les bénéfices. Si les entreprises d’IA restreignent davantage l’accès à leurs systèmes les plus avancés, les modèles ouverts permettent de combler cette lacune. Mais leur diffusion à grande échelle et la possibilité de supprimer leurs garde-fous pourraient accroître le risque d’utilisations malveillantes.
«Si vous disposez d’un outil extrêmement puissant mais que personne n’y a accès et qu’il reste sous contrôle, le risque est quasiment nul. Mais si tout le monde peut y accéder, alors le risque est probablement plus élevé», estime-t-il.
À mesure que les modèles ouverts gagnent en puissance, Maxime Stauffer juge qu’il pourrait devenir important de disposer d’un moyen de les retirer s’ils s’avéraient trop puissants ou trop dangereux, une possibilité qui n’existe actuellement pas.
Certaines recherches mettent en évidence des inquiétudes similaires. Une étudeLien externe menée par les universités de Stanford et Princeton a identifié des caractéristiques susceptibles d’amplifier à la fois les bénéfices et les risques des modèles ouverts. Parmi elles, leur large accessibilité, leur capacité à être modifiés ainsi que l’impossibilité pour les développeurs d’origine de retirer ou de surveiller l’utilisation des «poids» du modèle. Ces derniers englobent les paramètres numériques appris pendant l’entraînement.
Un récent rapportLien externe de l’AI Security Institute britannique a en outre montré que des modèles ouverts modifiés pour supprimer leurs garde-fous fournissaient une assistance nettement plus importante pour des activités criminelles que des modèles dont ces protections étaient restées intactes. Aucune de ces études ne conclut toutefois que les modèles d’IA ouverts sont intrinsèquement plus dangereux.
Il faut des «contrôles et des lois»
Andrei Kucharavy reconnaît que les modèles ouverts comportent des risques et peuvent être utilisés à mauvais escient. «Les modèles d’IA sont des technologies à double usage. Ils peuvent être utilisés aussi bien de façon bénéfique que pour causer des dommages», affirme-t-il. Il estime toutefois que c’est précisément grâce à leur ouverture que ces risques sont beaucoup plus faciles à maîtriser.
Selon lui, ce n’est pas un hasard si les incidents observés récemment ont impliqué des entreprises dont les modèles sont fermés. «Le problème principal est le manque de supervision des laboratoires qui développent les modèles de frontière», affirme-t-il. Le professeur plaide pour davantage de contrôle et de transparence dans tous les centres de développement de l’IA, qu’ils soient publics ou privés, ouverts ou fermés.
«Ce dont nous avons réellement besoin, ce sont de contrôles et de lois qui encadrent l’activité de tous ceux qui développent de l’IA.»
L’absence de contrôles et de règles met en lumière un autre problème majeur du secteur: la concentration du pouvoir entre les mains d’un petit nombre d’acteurs, principalement basés dans la Silicon Valley. Pour Nathalie Klauser, spécialiste de l’éthique numérique, ce déséquilibre est encore plus préoccupant que la distinction entre modèles d’IA ouverts et fermés.
«Une poignée de grandes entreprises technologiques fixent elles-mêmes les règles de l’IA sans pratiquement avoir à rendre de comptes à des acteurs extérieurs», affirme-t-elle. Selon elle, une réglementation internationale est nécessaire.
Les tentatives en ce sens demeurent toutefois fragmentées et trop lentes. Aux États-Unis, l’une des principales puissances dans le développement de l’IA, le président Donald Trump s’est opposé à une réglementation générale de l’intelligence artificielle et a salué l’autorégulation du secteur. La Suisse a adopté une approche en partie similaire, en renonçant à une législation-cadre sur l’IA au profit d’adaptations législatives sectorielles et de mesures non contraignantes.
Dans le contexte géopolitique actuel, la Suisse, en tant que pays neutre, pôle européen des grandes entreprises technologiques et État réputé pour ses bons offices, a une responsabilité politique croissante pour faciliter un accord international sur l’IA, estime Nathalie Klauser.
Des représentants des six groupes parlementaires suisses considèrent le prochain sommet sur l’IA de Genève, prévu en juin 2027, comme une occasion importante pour le pays d’assumer ce rôle. Ils exhortent également le gouvernement à profiter de cet événement pour promouvoir des normes minimales internationales concernant les risques extrêmes liés à l’IA.
Texte original en italien relu et vérifié par Gabe Bullard/VdV, version française adaptée et vérifiée par Dorian Burkhalter
Voir plus d’articles de Swissinfo dans vos résultats Google. En savoir plus
En conformité avec les normes du JTI
Plus: SWI swissinfo.ch certifiée par la Journalism Trust Initiative
Vous pouvez trouver un aperçu des conversations en cours avec nos journalistes ici. Rejoignez-nous !
Si vous souhaitez entamer une conversation sur un sujet abordé dans cet article ou si vous voulez signaler des erreurs factuelles, envoyez-nous un courriel à french@swissinfo.ch.