Publié le 15 janvier 2024 00:38:00. Face à une vague d’indignation internationale, la plateforme X, propriété d’Elon Musk, a annoncé des restrictions sur son chatbot d’intelligence artificielle Grok afin d’empêcher la création d’images sexualisées de personnes réelles, notamment de femmes et d’enfants.
- X va bloquer géographiquement la possibilité de générer des images de personnes en maillot de bain ou sous-vêtements dans les pays où cela est illégal.
- Une enquête a été ouverte en Californie sur xAI, la société qui a développé Grok, pour la création de contenu sexuellement explicite non consensuel.
- Plusieurs pays, dont l’Indonésie et la Malaisie, ont déjà bloqué l’accès à Grok.
La décision de X intervient après une forte pression internationale et des accusations de permettre la création de deepfakes à caractère sexuel. La fonctionnalité controversée de Grok permettait aux utilisateurs de générer des images hyperréalistes, ouvrant la porte à des abus potentiels et à la diffusion de contenu préjudiciable.
Selon un communiqué de l’équipe de sécurité de X, les mesures technologiques mises en place empêcheront désormais le chatbot de produire des images révélant des vêtements tels que des bikinis. Ces restrictions s’appliqueront à tous les utilisateurs, y compris ceux qui sont abonnés à des services payants.
« Nous avons mis en œuvre des mesures technologiques pour empêcher le compte Grok de permettre l’édition d’images de personnes réelles révélant des vêtements tels que des bikinis. »
Équipe de sécurité de X
L’affaire a pris une tournure judiciaire avec l’ouverture d’une enquête par le procureur général de Californie sur xAI. Les autorités californiennes cherchent à déterminer si la société a contribué à la création et à la diffusion de « matériel non consensuel et sexuellement explicite » au cours des dernières semaines.
Au-delà des États-Unis, plusieurs pays ont réagi à la polémique. L’Indonésie a été le premier à bloquer complètement l’accès à Grok, suivie par la Malaisie. En Inde, X a supprimé des milliers de publications et des centaines de comptes d’utilisateurs en réponse aux plaintes des autorités.
Le régulateur britannique des médias, Ofcom, a également annoncé l’ouverture d’une enquête pour vérifier si X respecte la législation britannique en matière d’images à caractère sexuel. En France, la commissaire à l’enfance, Sarah El Hairy, a transmis les images générées par Grok aux procureurs, à l’Arcom (Autorité de régulation de la communication audiovisuelle et numérique) et aux autorités européennes.
Sur le même sujet
