Apertus a un an: les réussites et les ratés du modèle d’IA suisse

Un an après le lancement du modèle suisse d'intelligence artificielle Apertus, l'heure est venue de faire le bilan. Keystone / Gaetan Bally

Un an après son lancement, le grand modèle de langage suisse, entièrement en sources ouvertes, a dépassé les quatre millions de téléchargements et trouvé des applications concrètes. Désormais disponible en version 1.5, Apertus commence à réduire l’écart avec la concurrence, mais plusieurs fragilités sur des tâches cruciales empêchent encore le LLM suisse de rivaliser dans la course effrénée à l’IA générative.

L’information avait été proclamée avec tambours et trompettes: la Suisse avait enfin son propre grand modèle de langage (LLM) d’intelligence artificielle, transparent, multilingue et ouvert, conçu en adéquation avec les règles de protection des données et le règlement européen sur l’IA. Pourtant, quelques semaines après son lancement, Apertus a essuyé des critiques virulentes. Certains utilisateursLien externe l’ont qualifié d’«inutilisable» et l’ont dit «incapable de répondre même aux questions les plus basiques».

Un an plus tard, qu’en est-il de son utilisation?

Les chiffres sont prometteurs. Apertus a dépassé les quatre millions de téléchargements sur la plateforme IA Hugging Face. Oleg Lavrovsky, directeur de la communauté technique autour d’Apertus, considère que ce chiffre est représentatif de l’intérêt mondial que suscitent les projets d’IA en sources ouvertes (open source).

Néanmoins, le nombre de téléchargements ne reflète pas l’usage réel. Oleg Lavrovsky déclare qu’il a connaissance d’au moins 70 déploiements à l’étranger et de plus d’une centaine de versions dérivées du modèle suisse. Parmi elles figure le modèle SEA-LIONLien externe de Singapour, qui a adapté le modèle Apertus ainsi que d’autres modèles d’IA afin qu’ils soient opérables dans plusieurs langues d’Asie du Sud-Est.

Pour lui, cette validation est précieuse. «Nous voulions créer un modèle de base, explique-t-il. Quand les gens optimisent ou adaptent Apertus, c’est exactement ce qu’on recherche.»

En juillet, son équipe a sorti Apertus 1.5, qui inclut notamment l’analyse d’images et de meilleures capacités de raisonnement. La feuille de route officielleLien externe prévoit la sortie d’Apertus 2.0 en 2027.

À celles et ceux qui ne sont toujours pas convaincus, le directeur de la communauté technique adresse un message clair: Apertus n’a jamais eu vocation à rivaliser avec ChatGPT. Il ne s’agit pas d’un produit commercial fini, mais d’une base sur laquelle des entreprises, des institutions et des chercheurs peuvent adapter leurs propres besoins. Il admet néanmoins qu’on ignore encore à quel point le potentiel du modèle suisse se traduit en usages concrets et en résultats mesurables.

Sources ouvertes, à poids ouverts, et fermés

Les modèles d’IA peuvent être développés et mis à disposition selon différents niveaux d’ouverture:

Les sources ouvertes (open source): Les paramètres entraînés de ce modèle, qu’on appelle souvent «poids», son code d’entraînement et les informations relatives aux données d’entraînement sont tous accessibles publiquement. Ce qui permet à tout le monde d’inspecter, de modifier et de reproduire le modèle. Parmi ceux-ci, il y a Apertus et OLMo.

Les poids ouverts (open weight): Les «poids» du modèle sont disponibles publiquement et peuvent être téléchargés et adaptés, mais le code d’entraînement intégral et les bases de données ne sont pas nécessairement révélés. Parmi ces modèles, on trouve Llama, de chez Meta, et Qwen, de chez Alibaba.

Fermé / propriétaire: Les poids, le code d’entraînement et les bases de données de ce modèle ne sont pas révélés publiquement. C’est le cas de la plupart des modèles commerciaux grand public, dont ChatGPT de chez OpenAI, et Claude de chez Anthropic.

Le multilinguisme et la sécurité des données portent leurs fruits

Certaines entreprises trouvent des usages à Apertus. Implantée au Tessin, la société Artificialy, spécialisée en solutions IA, affirme utiliser Apertus intensivement.

«On ne fait pas de la charité. On n’utilise pas Apertus par obligation, mais parce que c’est un bon modèle», déclare Damiano Binaghi, directeur du département d’apprentissage profond (deep learning) au sein de l’entreprise.

«Nous préférons généralement Apertus aux autres modèles pour les tâches de traduction de nos clients, surtout quand il s’agit des quatre langues officielles de la Suisse, ou alors de documents sensibles», dit-il.

Un exemple: le canton du Tessin, qui a décidé de migrer sur Apertus pour la traduction automatique de documents administratifs. Le bureau cantonal des migrations en a particulièrement bénéficié: il traite des documents personnels dans de multiples langues, et nécessite à la fois une grande précision et de bonnes garanties concernant la sécurité des données. 

«Les besoins du bureau des migrations du Tessin illustrent presque parfaitement les atouts de ce modèle d’IA», dit Damiano Binaghi.

Le multilinguisme est l’un des domaines dans lesquels les développeurs d’Apertus ont le plus investi. Près de 40% de ses données d’entraînement sont dans une autre langue que l’anglais, et son corpus comporte plus de 1800 langues, y compris des dialectes peu représentés, comme le romanche, et certaines variations de suisse allemand. En comparaison, des études estiment Lien externeque les modèles d’IA actuels utilisent environ 10% de données non anglophones.

>> Apertus parle-t-il vraiment plus de 1800 langues? Nous avons fait le tri entre la vérité et les rumeurs concernant ce modèle d’IA suisse:

L’ouverture totale des sources est une autre raison pour laquelle le programme national de Singapour AI Singapore a choisi Apertus comme base pour une version de son projet SEA-LION. «Nous avons sélectionné Apertus car c’est l’un des seuls modèles véritablement open source au monde, et c’est important pour la recherche, surtout quand on a besoin de savoir quelles données ont été utilisées et comment le modèle s’est entraîné», explique Leslie Teo, de AI Singapore.

Pour les mêmes raisons, Apertus a trouvé des applications concrètes dans le domaine de la médecine. En juin dernier, l’École polytechnique fédérale de Lausanne (EPFL) a présenté MeditronFOLien externe, une structure-cadre entièrement ouverte destinée à créer de grands modèles de langage médicaux, également fondés sur Apertus.

L’écart de performance persiste

Bien qu’Artificialy salue les progrès notables d’Apertus 1.5 en traduction, en vision et en raisonnement, l’entreprise estime qu’il a encore une marge de progression.

«En termes de capacités agentiques, et malgré des progrès considérables, Apertus n’arrive pas au niveau d’autres modèles à poids ouverts», déclare Damiano Binaghi. Les modèles d’IA agentique sont capables d’exécuter en autonomie des tâches impliquant plusieurs étapes, telles que la comparaison puis la réservation de trajets en avion.

Cet écart apparaît aussi dans des comparaisons effectuées par l’équipe d’Apertus elle-même. Le modèle original, le plus vaste, qui comporte 70 milliards de paramètres, reste loin derrière d’autres modèles à poids ouverts aux dimensions comparables, notamment dans des tâches de programmation, de mathématiques et de raisonnement.

Llip, une agence numérique basée à Zurich, qui a testé Apertus pour ZüriCityGPT, son outil de recherche IA destiné à répondre aux questions des citoyens, considère également qu’Apertus est en retard sur les modèles commerciaux, même si la dernière version 1.5 a réduit l’écart.

Josef Kruckenberg, directeur de projets d’IA générative chez Liip, trouve qu’Apertus 1.5 fournit davantage de réponses utiles, se conforme mieux aux instructions et se montre plus susceptible de refuser de répondre quand il ne dispose pas des informations nécessaires. Il demeure toutefois insuffisant sur un point crucial pour Liip: la fidélité aux sources, autrement dit, à quel point chaque élément d’une réponse est étayé par les sources disponibles.

«Jusqu’ici, nous n’avons pas utilisé Apertus dans des projets pour des clients. Selon nous, il n’était pas encore prêt», déclare Josef Kruckenberg. Il ajoute qu’il est trop tôt pour déterminer des applications concrètes d’Apertus 1.5 pour sa clientèle. 

>> Des préjugés dans les modèles d’IA? Même la société suisse Apertus tombe dans le piège:

Le prix de l’ouverture

Développer des modèles entièrement ouverts qui soient compétitifs: l’objectif est difficile et implique des compromis inévitables. «Être réellement open source signifie qu’on risque de ne pas pouvoir utiliser certaines données, ce qui a des conséquences sur les performances et les capacités générales», analyse Leslie Teo d’AI Singapore.

Damiano Binaghi confirme: Apertus repose sur des données publiques transparentes et vérifiables, conformément à la réglementation en matière de droits d’auteurs, et contrairement aux développeurs de modèles privés, qui utilisent souvent des ensembles de données sous licence ou non divulguées. Cela peut susciter un léger écart de qualité, mais renforce la souveraineté numérique, souligne-t-il.

Federico Magnolfi, directeur de l’équipe chargée du traitement automatique du langage naturel (Natural language processing) chez Artificialy, estime qu’Apertus 1.0 avait déjà deux ans de retard par rapport aux modèles commerciaux américains de pointe, dès son lancement. «Deux ans, c’est énorme, dans un secteur qui avance tous les trois mois», dit-il.

Pour combler cet écart, il faudrait mettre en place de nouveaux cycles d’entraînement, accroître les capacités informatiques et les investissements. En tant que vaisseau amiral de l’initiative «Swiss IA», Apertus bénéficie déjà d’une part importante des ressources informatiques publiques disponibles. Son directeur Oleg Lavrovsky concède que l’allocation de ces ressources fait l’objet de débats.

Les limites d’Apertus ne sont pas forcément liées au modèle en tant que tel. Un modèle IA n’est qu’un composant d’un système plus large. Les logiciels permettant d’effectuer des tâches, telles que la recherche et le traitement d’informations pertinentes par rapport à une recherche, jouent également un rôle crucial.

Pour Josef Kruckenberg de chez Liip, les logiciels reliés à Apertus ont aussi des progrès à faire pour atteindre un fonctionnement optimal. Dans les tests menés par Liip, par exemple, une réponse erronée sur la population de Zurich n’était pas uniquement de la faute d’Apertus: le système de recherche des données avait échoué à sélectionner la source la plus récente.

Selon lui, cet exemple illustre à quel point un modèle d’IA seul ne suffit pas à être compétitif. «Tout l’écosystème qui l’encadre doit aussi se montrer à la hauteur de la tâche», dit-il.

Pour sa deuxième année d’existence, Apertus devra affronter deux nouveaux défis: l’amélioration du modèle en lui-même, et la consolidation de l’écosystème sur lequel il repose. Ces deux éléments seront cruciaux pour la compétitivité du modèle IA suisse, et pour lui assurer une plus large adoption par le grand public. 

Article original relu et vérifié par Gabe Bullard/vdv, traduction en français par Pauline Grand d’Esnon/ptur