Les géants de la technologie doivent être tenus responsables de la violence sexiste assistée par la technologie

Publié le 14 janvier 2026 à 15h58. La nouvelle fonctionnalité d’édition d’images du chatbot d’intelligence artificielle Grok, développé par xAI, a permis la création massive d’images sexuellement explicites et non consensuelles, soulevant de vives inquiétudes quant à la sécurité et à la régulation de l’IA.

• Grok a généré des milliers d’images à caractère sexuel, dont certaines impliquant des mineurs, malgré des garde-fous théoriques.
• Cette affaire met en lumière la facilité croissante avec laquelle les nouvelles technologies peuvent être utilisées pour commettre des violences sexuelles.
• Des experts appellent à une réglementation plus stricte des entreprises d’IA et à une meilleure protection des victimes de deepfakes et d’abus en ligne.

La fonctionnalité d’édition d’images de Grok, lancée juste avant Noël, avait été présentée comme un outil ludique permettant, par exemple, d’ajouter le Père Noël à des photographies. Or, selon des informations rapportées par Bloomberg, elle a rapidement été détournée pour générer des milliers d’images non consensuelles et sexuellement explicites, ciblant notamment des femmes et des mineurs. Des utilisateurs ont constaté que, bien que Grok prétende refuser de créer des images pornographiques, ces restrictions sont aisément contournées.

Cette situation souligne l’urgence de donner la priorité à la sécurité et à la réglementation de l’intelligence artificielle, selon des experts. « Les technologies sont depuis longtemps utilisées comme moyen de violence sexuelle », explique une chercheuse en santé publique, qui a travaillé sur des projets utilisant l’IA pour soutenir les victimes de violences. Elle souligne la nécessité de nouvelles réglementations pour protéger la santé des populations face aux méfaits potentiels de l’IA à grande échelle.

Le problème des « deepfakes » sexuellement explicites n’est pas nouveau. Dès 2018, des forums sur Reddit étaient utilisés pour échanger des visages de célébrités, comme Taylor Swift, sur du matériel pornographique, comme le rapportait Vice. D’autres programmes de « nudification » basés sur l’IA existent déjà sur Internet, et Grok rend cette technologie plus accessible que jamais.

Elon Musk, propriétaire de xAI, a publié une déclaration sur X indiquant que l’entreprise prend des mesures contre le contenu illégal en le supprimant, en suspendant définitivement les comptes et en collaborant avec les autorités locales. Cependant, les modalités et le calendrier de mise en œuvre de ces mesures restent flous.

Plusieurs pays ont déjà réagi à cette controverse. La Malaisie et l’Indonésie ont notamment annoncé le blocage de l’accès à Grok. En réponse, xAI a déplacé la fonction d’édition d’image derrière un abonnement payant pour les utilisateurs de X, tout en maintenant l’accès gratuit via l’application Grok, et a empêché le téléchargement automatique des images générées dans les commentaires, le 9 janvier.

Les formes de violence sexuelle facilitées par la technologie, comme le « revenge porn » (diffusion non consensuelle d’images intimes), ont des conséquences dévastatrices sur la santé mentale, les relations et l’isolement social des victimes. Certains réseaux sociaux ont mis en place des politiques interdisant la diffusion de contenus intimes non consensuels et des mécanismes de signalement, et les moteurs de recherche proposent des procédures de suppression de liens illégaux. Le Canada a même criminalisé le « revenge porn » en vertu du Code criminel, passible d’une peine pouvant aller jusqu’à cinq ans d’emprisonnement.

Face à cette situation, plusieurs mesures sont nécessaires au Canada :

1. Criminaliser la création et la diffusion de deepfakes sexuellement explicites et non consensuels. Des juristes plaident pour une législation similaire à celle existante sur le « revenge porn ».

2. Réglementer les entreprises d’IA et les tenir responsables. Le Canada n’a pas encore adopté de loi spécifique sur la régulation de l’IA, malgré des projets de loi avortés comme le projet de loi sur l’intelligence artificielle et les données et la Loi sur l’intelligence artificielle et les données.

3. Élargir la portée des services sociaux en matière de violence sexuelle pour soutenir les victimes de deepfakes et d’abus en ligne.

4. Démanteler la culture du viol qui perpétue ces formes de violence, en tenant les auteurs responsables et en dénonçant les comportements qui la normalisent.