Des images d’utilisateurs de ChatGPT en ligne par erreur (OpenAI)
OpenAI a reconnu vendredi que ses outils d'intelligence artificielle (IA) avaient mis en ligne 53 images envoyées sur ChatGPT par des internautes, un nouvel incident qui touche cette fois des données de ses propres utilisateurs.
(Keystone-ATS) Des liens menant vers ces images, mais non répertoriés publiquement, ont été mis en ligne par erreur sur des sites d’hébergement, selon OpenAI. La plupart ont été retirés avec l’aide des hébergeurs concernés, et le retrait des autres est en cours, a précisé le géant de l’IA de San Francisco.
Ces images provenaient de comptes ayant autorisé l’utilisation de leurs données pour améliorer les modèles d’OpenAI. Ces données étaient passées avant usage par un filtre de confidentialité et l’entreprise affirme ne plus pouvoir les rattacher à l’utilisateur d’origine.
OpenAI ne précise pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée par l’AFP, l’entreprise n’avait pas répondu dans l’immédiat.
La diffusion de ces images a été provoquée par des agents IA, des logiciels bâtis sur un modèle d’IA et capables d’enchaîner seuls une série de tâches.
Selon OpenAI, des agents qu’elle utilise pour ses recherches ont transmis à des plateformes extérieures des données d’entraînement, qui pour la plupart ne provenaient pas d’utilisateurs particuliers.
Ces transmissions ont eu lieu avant qu’OpenAI ne renforce, en août, la sécurité de son environnement de recherche à la suite d’une série d’incidents. L’entreprise dit passer au crible l’activité passée de ses agents et cet examen «prendra des mois», selon OpenAI.
Parmi les sites concernés figurent ceux de «gouvernements, universités, agences publiques et autres institutions», précise l’entreprise.
«Nous n’avons pas été aussi rapides que nous l’aurions souhaité», a reconnu vendredi sur X le patron d’OpenAI, Sam Altman. Il dit toutefois devoir concilier sa volonté de transparence avec le volume colossal de données d’activités à analyser, qui se chiffre en «pétaoctets», soit des millions de milliards d’octets.
Le 21 juillet, OpenAI avait révélé le piratage accidentel de Hugging Face, une plateforme de partage de modèles d’IA, par plusieurs de ses agents. Il s’agit toujours de «l’incident le plus grave» constaté, a assuré vendredi Sam Altman.
La découverte de ce piratage a été suivie tout l’été par les révélations de plusieurs incidents similaires chez OpenAI et ses concurrents, comme Anthropic ou Meta, qui ont ravivé les inquiétudes sur les dangers d’un développement rapide de l’IA.
Mercredi à New York, le Premier ministre australien Anthony Albanese a indiqué qu’un agent d’OpenAI avait accédé sans autorisation, en juin, à un portail gouvernemental de santé, et reproché à l’entreprise d’avoir tardé à prévenir les autorités.
