Publié le 6 janvier 2024 14h13. L’outil d’intelligence artificielle Grok, développé par la plateforme X, est au centre d’une vive polémique en Irlande après avoir été utilisé pour générer des images sexuellement explicites impliquant des enfants et des femmes. Les autorités irlandaises sont appelées à agir face à ces abus potentiels.
- L’outil « modifier l’image » de Grok permet aux utilisateurs de manipuler des photos, y compris de supprimer des vêtements.
- Des experts soulignent que ces manipulations constituent des infractions pénales en vertu du droit irlandais, notamment en matière de maltraitance infantile.
- Le régulateur irlandais des médias, Coimisiún na Meán, examine la situation et s’engage avec la Commission européenne.
La controverse a éclaté après que des utilisateurs ont découvert que Grok pouvait être utilisé pour créer des images à caractère sexuel à partir de photographies existantes, ciblant parfois des mineures. Cette fonctionnalité, accessible via l’outil « modifier l’image » déployé fin du mois dernier, a rapidement suscité l’inquiétude des défenseurs des droits de l’enfant et des experts en psychologie.
Sharon Lambert, maître de conférences en psychologie appliquée à l’University College Cork (UCC), estime qu’une intervention des autorités irlandaises est nécessaire, compte tenu du fait que le siège européen de X, ainsi que pour l’Afrique et le Moyen-Orient, est situé à Dublin. Elle rappelle que la législation irlandaise définit les images de maltraitance infantile comme toute représentation visuelle, audio ou textuelle impliquant l’exploitation sexuelle d’une personne de moins de 18 ans, y compris les simulations et les images générées par ordinateur.
« La production et la diffusion d’images entrant dans cette catégorie constituent une infraction pénale. Le poste en question peut donc être traité par notre système de justice pénale. »
Sharon Lambert, maître de conférences en psychologie appliquée à l’UCC
Selon elle, une image nue d’un enfant est illégale si elle est sexualisée ou exploitée dans son but ou son effet. L’Irlande a également mis en place un code de sécurité en ligne contraignant les plateformes de partage de vidéos à interdire le téléchargement et le partage de contenus préjudiciables, notamment la pédopornographie. Ce code est appliqué par Coimisiún na Meán, le régulateur irlandais des médias.
Ruth Breslin, directrice du Sexual Exploitation Research and Policy Institute (SERP), a dénoncé une escalade inquiétante de cette tendance. Elle explique que la modification d’images réelles de femmes a pris une tournure encore plus grave avec l’application de ces mêmes demandes à des photos de très jeunes filles, parfois même prépubères. Elle critique également la réaction des créateurs de Grok, qui ont republié une image d’un grille-pain portant un « petit bikini » en guise de plaisanterie face à cette situation.
« Il n’y a aucun bien social à trouver dans la capacité de l’IA à se déshabiller ou à se « nudifier ». Les plateformes et outils qui créent, hébergent et diffusent ces contenus abusifs devraient être tenus pénalement responsables, tout comme ceux qui gagnent ou profitent personnellement de cette technologie. »
Ruth Breslin, directrice du Sexual Exploitation Research and Policy Institute (SERP)
Des pays comme le Royaume-Uni et l’Australie envisagent d’interdire les outils de « nudification », et l’Irlande devrait en prendre de leçons, selon Mme Breslin.
Le Taoiseach (Premier ministre) Micheál Martin, s’exprimant en Chine, a qualifié l’utilisation de Grok pour déshabiller des femmes et des mineurs d’« inacceptable » et potentiellement illégale. Il a souligné que les autorités irlandaises devaient examiner cette question avec la plus grande attention et garantir la protection des enfants et des personnes vulnérables.
De son côté, la Commission européenne a qualifié ces contenus d’illégaux et de révoltants. Le porte-parole pour les affaires numériques, Thomas Régnier, a déclaré que de tels contenus n’ont pas leur place en Europe.
X a réagi en affirmant prendre des mesures contre les contenus illégaux sur sa plateforme, notamment la pédopornographie, en supprimant les contenus, en suspendant les comptes et en collaborant avec les autorités locales. La plateforme a précisé que toute personne utilisant ou incitant Grok à créer du contenu illégal subirait les mêmes conséquences que si elle téléchargeait directement du contenu illégal.
Coimisiún na Meán a indiqué qu’elle était en contact avec la Commission européenne concernant Grok et qu’elle est responsable de la surveillance des très grandes plateformes en ligne et de leurs obligations en matière d’évaluation et d’atténuation des risques liés à la prolifération de contenus illégaux et à la protection des droits fondamentaux, notamment ceux des mineurs.
La commission invite toute personne préoccupée par des images partagées en ligne à les signaler à la Gardaí (police irlandaise), au centre national de signalement irlandais Hotline.ie, à la plateforme en ligne concernée et à Coimisiún na Meán.
À ne pas manquer
