Publié le 5 novembre 2023 18h50. Des chercheurs en sécurité ont mis en évidence de multiples failles de sécurité dans ChatGPT, l’intelligence artificielle conversationnelle d’OpenAI, qui pourraient permettre à des attaquants de dérober des informations personnelles et financières.
- ChatGPT présente des vulnérabilités permettant l’exfiltration de données, l’injection de code malveillant et la manipulation de la mémoire utilisateur.
- Les attaques peuvent provenir de sites web compromis ou de liens dissimulés dans des conversations apparemment innocentes.
- Les experts recommandent de limiter le partage d’informations sensibles et d’activer l’authentification à deux facteurs pour protéger ses comptes.
La société Tenable Research a révélé l’existence de plusieurs vulnérabilités persistantes dans ChatGPT, soulevant des inquiétudes quant à la sécurité des données des utilisateurs. Ces failles pourraient être exploitées par des cybercriminels pour accéder à des informations confidentielles, allant des identifiants bancaires aux documents d’identification.
L’étude met en lumière plusieurs types d’attaques possibles. Parmi elles, les « injections indirectes », où le code malveillant est introduit via des sources externes, telles que des blogs ou des commentaires sur des sites web. Une vulnérabilité spécifique, nommée url_safe, permettrait de contourner les filtres de sécurité et d’accéder à des sites malveillants.
Les chercheurs Moshe Bernstein et Liv Matan ont démontré qu’une simple demande de résumé de page peut suffire à déclencher une attaque. Le système de navigation secondaire de ChatGPT (SearchGPT) pourrait ainsi être amené à exécuter des instructions cachées, modifiant le comportement du modèle ou collectant des informations sensibles stockées dans la mémoire de l’utilisateur.
Les conséquences potentielles sont importantes, en particulier pour les utilisateurs qui partagent des informations financières dans leurs conversations avec ChatGPT. Des numéros de compte, des mots de passe, des rapports financiers ou des documents d’identification pourraient être interceptés. Les experts insistent sur la nécessité d’adopter une politique de « confidentialité numérique minimale », en évitant de divulguer des informations qui ne seraient pas accessibles publiquement.
Pour se protéger, les utilisateurs sont également invités à vérifier attentivement les liens suggérés par l’IA, à ne pas saisir de données personnelles dans les conversations avec des modèles connectés à Internet et à activer l’authentification à deux facteurs sur leurs comptes bancaires, portefeuilles numériques et messageries électroniques. Il est également conseillé de consulter et de supprimer régulièrement les mémoires stockées sur les plateformes qui les utilisent, car elles peuvent conserver des données privées à l’insu de l’utilisateur.
Bien qu’OpenAI ait corrigé certaines vulnérabilités signalées, Tenable Research souligne que plusieurs failles restent actives, même dans la version GPT-5. La complexité des modèles de langage rend difficile l’élimination complète du risque d’injection de code malveillant. Les fournisseurs d’IA devront donc renforcer leurs filtres et protocoles de sécurité pour mieux protéger les informations de leurs utilisateurs.
À titre d’exemple, Walmart prévoit d’intégrer ChatGPT à ses services pour permettre aux clients de faire des achats, ce qui souligne l’importance de la sécurité dans ces systèmes.
Récemment, un joueur a remporté 150 000 $ au Powerball après avoir demandé des conseils à ChatGPT, illustrant l’utilisation croissante de l’IA dans la vie quotidienne.
Par ailleurs, OpenAI a annoncé le lancement d’un contrôle parental suite à un cas de suicide potentiellement lié à l’utilisation de ChatGPT, soulignant la nécessité d’une surveillance accrue et de mesures de protection.