La mère d’un des enfants d’Elon Musk a intenté une action en justice contre la société d’intelligence artificielle xAI, l’accusant de négligence et de détresse émotionnelle. Ashley St. Clair affirme que l’outil d’IA de xAI, Grok, a permis la création de fausses images à caractère sexuel la représentant, et que xAI n’a pas suffisamment limité ce comportement malgré ses signalements.
Le procès, initialement déposé devant un tribunal de l’État de New York avant d’être transféré au district fédéral sud de New York à la demande de xAI, fait suite à une vague croissante d’indignation concernant la capacité de Grok à générer des deepfakes non consensuels. Les utilisateurs pouvaient ainsi retirer les vêtements des personnes figurant sur des photos téléchargées, les remplaçant souvent par des bikinis ou des sous-vêtements.
Selon les documents judiciaires, Mme St. Clair avait alerté xAI sur la création de fausses images d’elle, notamment « en tant qu’enfant déshabillée en bikini string » et « en tant qu’adulte dans des poses sexuellement explicites », demandant que Grok soit empêché de générer de telles images sans consentement. Elle allègue que, malgré une promesse de Grok de ne pas utiliser ou modifier des images sans consentement explicite, xAI a continué de permettre la création d’images plus explicites et a même désactivé son compte X en représailles.
xAI a réagi en poursuivant à son tour Mme St. Clair devant un tribunal fédéral du Texas, l’accusant de violation des conditions d’utilisation et réclamant plus de 75 000 $ (environ 68 700 €) de dommages et intérêts. La société affirme que toute réclamation doit être portée devant un tribunal du district nord du Texas ou devant les tribunaux d’État du comté de Tarrant, au Texas.
La semaine dernière, X a limité les capacités de son robot de réponse @Grok, l’empêchant de générer des images sexualisant des personnes identifiables en maillots de bain ou en sous-vêtements révélateurs. Cependant, ces fonctionnalités sont restées actives sur l’application autonome Grok, le site web Grok et l’onglet dédié sur X.
Des chercheurs estiment que Grok a généré un flux continu d’images sexualisées pendant des semaines, atteignant un rythme de plusieurs milliers d’images par heure la semaine dernière. De nombreuses images ont été publiées publiquement sur X.
Cette prolifération d’images sexualisées non consensuelles a suscité une réaction internationale, entraînant plusieurs enquêtes gouvernementales et des appels à interdire ou à restreindre l’application X sur les plateformes de téléchargement d’applications. À ce stade, aucune mesure concrète n’a été prise par les régulateurs ou d’autres entreprises technologiques.
Mercredi, le procureur général de Californie a lancé une enquête sur Grok. Le gouverneur Gavin Newsom a publié un message sur X, déclarant : « La décision de xAI de créer et d’héberger un terrain fertile pour que les prédateurs puissent diffuser des deepfakes d’IA sexuellement explicites et non consensuels, y compris des images qui déshabillent numériquement des enfants, est ignoble. »
La plainte de Mme St. Clair soutient que la fonctionnalité de Grok permettant la création de deepfakes non consensuels constitue un défaut de conception et que xAI aurait pu prévoir son utilisation pour harceler les individus avec des images illégales. Elle souligne que les personnes représentées dans ces deepfakes, dont Mme St. Clair, ont subi une détresse émotionnelle extrême.
« L’accusé s’est livré à une conduite extrême et scandaleuse, dépassant toutes les limites de la décence et totalement intolérable dans une société civilisée », affirme la plainte.