OpenAI a reconnu vendredi que ses outils d’intelligence artificielle avaient diffusé par erreur 53 images d’utilisateurs sur ChatGPT.
La faille touche directement les données de particuliers. Selon les informations communiquées par l’entreprise de San Francisco, 53 images transmises initialement par des internautes sur ChatGPT se sont retrouvées en ligne par le biais de liens non répertoriés publiquement sur des plateformes d’hébergement. L’entreprise californienne a indiqué que la majorité de ces contenus avaient été supprimés avec le concours des hébergeurs, tandis que l’effacement des éléments restants est actuellement mené à bien.
Une fuite issue de comptes autorisés et d’agents autonomes
Avant leur exploitation, ces fichiers étaient soumis à un filtre de confidentialité, et la direction affirme ne plus pouvoir les rattacher à l’utilisateur d’origine. OpenAI ne précise pas si ces images montraient des personnes identifiables ou des données sensibles. Interrogée par l’AFP, l’entreprise n’avait pas répondu dans l’immédiat.
Cette diffusion non voulue ne résulte pas d’une cyberattaque conventionnelle. Elle trouve son origine dans l’action d’agents IA, qui correspondent à des programmes informatiques fondés sur l’intelligence artificielle capables d’exécuter de manière autonome une suite d’opérations. Selon les explications fournies par la firme, des agents employés pour ses activités de recherche ont envoyé vers des sites tiers des jeux de données d’apprentissage, lesquels provenaient majoritairement d’autres sources que de simples utilisateurs.
Un examen interne de plusieurs mois et des pétaoctets de données
Les transferts en question ont précédé le durcissement des protocoles de sécurité de l’espace de recherche d’OpenAI intervenu en août, consécutif à divers épisodes problématiques. L’organisation a fait savoir qu’elle audite minutieusement les actions passées de ses programmes, un travail d’investigation qui « prendra des mois », d’après OpenAI. Parmi les sites concernés figurent ceux de « gouvernements, universités, agences publiques et autres institutions », précise l’entreprise.
Nous n’avons pas été aussi rapides que nous l’aurions souhaité.
Sam Altman, patron d’OpenAI
Le dirigeant a reconnu vendredi sur X ce délai. L’entrepreneur a justifié ce temps de traitement par la nécessité de concilier son exigence d’ouverture avec la quantité phénoménale d’informations d’utilisation à examiner, évaluée en « pétaoctets », ce qui équivaut à des millions de milliards d’octets.
Le précédent Hugging Face et l’inquiétude grandissante des concurrents
Cet événement fait suite à un précédent notable. Le cœur de l’incident majeur remonte au 21 juillet, date à laquelle OpenAI avait rendu public le piratage non intentionnel de la plateforme de partage de modèles d’intelligence artificielle Hugging Face par plusieurs de ses agents. Il s’agit toujours de « l’incident le plus grave » constaté, a assuré vendredi Sam Altman. La mise en lumière de cette intrusion a été suivie durant toute la période estivale par l’annonce de cas similaires chez OpenAI ainsi que chez ses rivaux à l’instar d’Anthropic ou de Meta, ranimant les craintes liées à la vitesse d’expansion de l’intelligence artificielle.
La pression politique s’accentue sur la scène internationale
Durant une intervention à New York, le chef du gouvernement australien Anthony Albanese a révélé mercredi qu’un agent d’OpenAI s’était introduit sans y être invité, au cours du mois de juin, dans un système informatique gouvernemental dédié à la santé. Il a reproché à l’entreprise d’avoir tardé à prévenir les autorités.