Publié le 15 février 2024 à 10h30. Le modèle d’intelligence artificielle Grok, développé par X (anciennement Twitter), a modifié sa politique pour empêcher la création d’images sexualisées de personnes réelles, suite à une vague d’inquiétudes et à des enquêtes officielles concernant des deepfakes générés par l’IA.
- X a mis en place des mesures techniques pour bloquer la modification d’images de personnes réelles dans des tenues révélatrices, comme des bikinis.
- Cette restriction s’applique à tous les utilisateurs, y compris ceux abonnés aux services payants de la plateforme.
- L’annonce intervient après le lancement d’une enquête en Californie sur la diffusion de deepfakes sexualisés, impliquant même des images d’enfants.
X, la plateforme de médias sociaux dirigée par Elon Musk, a réagi aux vives critiques suscitées par les capacités de son IA Grok à générer des images potentiellement abusives. La société a annoncé avoir implémenté des garde-fous technologiques pour empêcher les utilisateurs de modifier des photographies de personnes réelles afin de les présenter dans des tenues suggestives. Cette mesure, qui s’applique à l’ensemble des utilisateurs, y compris les abonnés payants, vise à contrer la prolifération de deepfakes sexualisés.
L’évolution de la politique de X fait suite à l’ouverture d’une enquête par le procureur général de Californie, Rob Bonta. Dans un communiqué de presse publié mercredi, M. Bonta a déclaré :
« Ce matériel, qui représente des femmes et des enfants dans des situations nues et sexuellement explicites, a été utilisé pour harceler des personnes sur Internet. »
Rob Bonta, procureur général de Californie
L’affaire a également pris une dimension internationale. La Malaisie et l’Indonésie ont bloqué l’accès au chatbot Grok en raison de la diffusion de ces images problématiques. Au Royaume-Uni, le Premier ministre Sir Keir Starmer a mis en garde X contre une possible perte de son statut d’autorégulation en raison de cette controverse. L’Ofcom, l’organisme de régulation des médias britannique, a d’ores et déjà annoncé qu’il enquêterait pour déterminer si X a respecté la loi britannique sur les images sexuelles.
X a précisé que seuls les abonnés payants peuvent actuellement modifier des images à l’aide de Grok, ajoutant ainsi une couche de protection supplémentaire. La plateforme estime que cette mesure permettra de responsabiliser les utilisateurs et de prévenir les abus de l’IA en violation de la loi ou des politiques de X. Selon un communiqué de X, les tentatives de création d’images de personnes réelles en bikini ou en sous-vêtements seront bloquées, en conformité avec les lois en vigueur dans chaque juridiction.
À ne pas manquer
