Publié le 15 janvier 2024 18:45. Face à une vague d’indignation suscitée par la génération d’images sexualisées, Elon Musk a annoncé de nouvelles restrictions sur son intelligence artificielle Grok, disponible sur sa plateforme X (anciennement Twitter). Ces mesures visent à empêcher la création de contenus inappropriés et à répondre aux pressions réglementaires croissantes.
- Elon Musk impose des restrictions sur son IA Grok pour empêcher la génération d’images sexualisées de personnes réelles.
- Plusieurs gouvernements, dont la Californie, le Royaume-Uni et l’Union européenne, ont ouvert des enquêtes sur xAI, la société derrière Grok.
- L’Indonésie et la Malaisie ont déjà bloqué l’accès à Grok en raison de ces controverses.
La société xAI, filiale d’Elon Musk spécialisée dans l’intelligence artificielle, a pris des mesures pour limiter la création et la modification d’images par le biais de Grok. Initialement accessibles à tous les abonnés payants, ces outils sont désormais soumis à des restrictions plus strictes. L’entreprise a précisé qu’elle bloque désormais la possibilité pour tous les utilisateurs de générer des images de personnes réelles en bikini, sous-vêtements ou tenues similaires dans les juridictions où cela est illégal.
Ces décisions interviennent après la publication d’une analyse alarmante par l’association parisienne à but non lucratif AI Forensics. L’étude, portant sur plus de 20 000 images générées par Grok, a révélé que plus de la moitié d’entre elles représentaient des individus en « tenue minimale », dont la majorité étaient des femmes et 2 % semblaient être des mineurs. Le “mode épicé” de Grok, qui permettait de créer des images sexuellement explicites avec des requêtes simples comme “enlever ses vêtements” ou “la mettre en sous-vêtements”, a été particulièrement critiqué.
La pression politique s’intensifie. Rob Bonta, le procureur général de Californie, a dénoncé l’« avalanche de signalements détaillant du matériel non consensuel et sexuellement explicite » produit par xAI. Une enquête est en cours pour déterminer si l’entreprise a violé la législation californienne. L’Ofcom, le régulateur britannique des médias, a également annoncé le lancement d’une enquête similaire lundi.
La Commission européenne, responsable de la régulation numérique au sein de l’Union européenne, a également exprimé ses préoccupations. Son porte-parole, Thomas Régnier, a déclaré dans un communiqué que la Commission avait pris note des « mesures supplémentaires prises par X pour interdire à Grok de générer des images sexualisées de femmes et d’enfants » et qu’elle « évaluera attentivement ces changements pour s’assurer qu’ils protègent efficacement les citoyens de l’UE ».
Plusieurs pays ont déjà pris des mesures concrètes. L’Indonésie a bloqué l’accès à Grok samedi, suivie par la Malaisie dimanche.
Édité par : Sean Sinico
