Publié le 5 janvier 2024 à 16h12. L’outil d’intelligence artificielle Grok, développé par la société xAI d’Elon Musk, est au centre d’une polémique après des signalements concernant sa capacité à générer des images sexualisées, notamment des « deepfakes » non consentis, et à créer du contenu potentiellement illégal. Plusieurs autorités de régulation européennes et internationales ont ouvert des enquêtes.
- L’Ofcom, le régulateur britannique des communications, a contacté en urgence xAI suite à ces accusations.
- La Commission européenne examine la situation et plusieurs pays, dont la France, la Malaisie et l’Inde, évaluent les risques.
- X, la plateforme de réseau social d’Elon Musk, a émis un avertissement à ses utilisateurs interdisant l’utilisation de Grok pour générer du contenu illégal.
Des inquiétudes grandissantes entourent l’utilisation de l’intelligence artificielle pour créer des images intimes ou sexualisées sans le consentement des personnes concernées. Des exemples concrets, révélés par la BBC, montrent que des utilisateurs de la plateforme X ont exploité Grok pour modifier des photos réelles et créer des images dégradantes, notamment en simulant des tenues vestimentaires suggestives ou en plaçant des individus dans des situations à caractère sexuel. Parmi les victimes potentielles, on compte même des personnalités publiques comme Catherine, princesse de Galles.
Selon des témoignages, l’outil permet de « déshabiller numériquement » des personnes avec une facilité alarmante. Samantha Smith, une journaliste ciblée par ce type de manipulation, a exprimé son sentiment de déshumanisation et de violation.
« Même si ce n’était pas moi qui étais déshabillée, cela me ressemblait et cela me ressemblait et c’était aussi violent que si quelqu’un avait réellement posté une photo de moi nue ou en bikini. »
Samantha Smith, journaliste
Face à cette situation, X a publié un message d’avertissement, rappelant que toute demande de création de contenu illégal entraînera des sanctions similaires à celles encourues pour la diffusion de ce même contenu. Elon Musk a également pris position sur sa plateforme, affirmant que les auteurs de telles requêtes s’exposeront à des conséquences sévères.
« Quiconque demande à l’IA de générer du contenu illégal « subirait les mêmes conséquences » que s’il le téléchargeait lui-même.
Elon Musk
La politique d’utilisation acceptable de xAI interdit formellement la représentation de personnes de manière pornographique, mais les signalements se multiplient. L’Internet Watch Foundation, une organisation britannique de surveillance d’internet, a confirmé avoir reçu des signalements concernant des images générées par Grok sur X, bien qu’aucun cas ne relève, à ce jour, de la législation britannique relative aux images d’abus sexuels sur des enfants.
Grok est un assistant virtuel accessible gratuitement sur X, avec des fonctionnalités premium payantes. Cette affaire relance le débat sur la responsabilité des plateformes numériques et la nécessité d’une régulation plus stricte de l’intelligence artificielle. Au Royaume-Uni, la loi sur la sécurité en ligne (Online Safety Act – OSA) interdit la création et la diffusion d’images intimes ou sexuellement explicites sans consentement. Les entreprises technologiques sont tenues de prendre des mesures pour réduire les risques et de supprimer rapidement les contenus illégaux. Dame Chi Onwurah, présidente du Comité des sciences, de l’innovation et de la technologie, a critiqué l’inadéquation de la législation actuelle, qualifiant la situation d’« exemple choquant » de l’impunité dont jouissent les réseaux sociaux. Elle appelle le gouvernement à renforcer les obligations des plateformes en matière de contenu.
La Commission européenne a également exprimé sa ferme condamnation, qualifiant le contenu généré par Grok d’« épouvantable » et de « dégoûtant ». Thomas Regnier, porte-parole de la Commission, a souligné que l’UE prend très au sérieux l’application de ses règles en matière de plateformes numériques, rappelant l’amende de 120 millions d’euros (104 millions de livres sterling) infligée à X en décembre dernier pour violation de sa loi sur les services numériques. Amende de X par l’UE
En France, le ministère de l’Intérieur a annoncé la préparation d’une loi interdisant les outils de « nudification », prévoyant des peines de prison et des amendes substantielles pour quiconque fournirait une telle technologie.