Publié le 17 janvier 2024 15:56:00. La mère d’un des enfants d’Elon Musk poursuit xAI, la société d’intelligence artificielle de l’entrepreneur, pour la création et la diffusion de fausses images à caractère sexuel la représentant. Cette action judiciaire intervient après une vague d’indignation suscitée par des « deepfakes » générés par le chatbot Grok.
- Ashley St. Clair, mère d’un enfant d’Elon Musk, accuse xAI d’avoir permis la création de fausses images d’elle, dont certaines la montrent mineure dans des situations compromettantes.
- Suite à la polémique, X (anciennement Twitter), la plateforme sur laquelle fonctionne Grok, a annoncé des restrictions concernant la retouche de photos.
- xAI a contre-attaqué en intentant une action en justice contre Ashley St. Clair, estimant qu’elle a violé les conditions d’utilisation de la plateforme.
Ashley St. Clair, 27 ans, se décrit comme une écrivaine et une stratège politique. Elle affirme que le chatbot Grok, développé par xAI, a permis à des utilisateurs de générer des images la représentant dans des situations à caractère sexuel, causant une profonde détresse émotionnelle et une humiliation publique. Parmi ces images, elle cite notamment une photo d’elle à l’âge de 14 ans, entièrement vêtue, qui a été modifiée pour la montrer en bikini, ainsi que d’autres la représentant en adulte dans des poses sexualisées, portant un bikini orné de croix gammées. Mme St. Clair est d’origine juive.
La plainte, déposée jeudi à New York, détaille les conséquences psychologiques subies par Mme St. Clair. Elle déclare avoir signalé ces « deepfakes » à X dès leur apparition l’année dernière, demandant leur suppression. Initialement, la plateforme avait répondu que les images ne violaient pas ses politiques. Par la suite, elle avait promis de ne plus autoriser l’utilisation ou la modification d’images la concernant sans son consentement.
Selon Mme St. Clair, X aurait ensuite pris des mesures à son encontre, notamment en supprimant son abonnement premium et sa coche de vérification, la privant ainsi de la possibilité de monétiser son compte, qui compte plus d’un million d’abonnés, tout en continuant à tolérer la diffusion de fausses images la dégradant.
« J’ai souffert et je continue de souffrir de douleurs et de détresse mentale graves en raison du rôle de xAI dans la création et la distribution de ces images de moi modifiées numériquement. Je suis humiliée et j’ai l’impression que ce cauchemar ne s’arrêtera jamais tant que Grok continuera à générer ces images de moi. »
Ashley St. Clair, plaignante
Mme St. Clair vit désormais dans la crainte que ces images ne soient visionnées par d’autres. Elle réclame un montant non divulgué de dommages-intérêts pour préjudice moral et demande au tribunal d’interdire à xAI de générer davantage de « deepfakes » la représentant.
La réponse de xAI à cette plainte a été laconique, se limitant à un simple « Legacy Media Lies » (Mensonges des médias traditionnels) dans un courriel adressé à l’Associated Press. Jeudi, les avocats de xAI ont transféré l’affaire au tribunal fédéral de Manhattan, demandant à un juge d’examiner le dossier là-bas. Le même jour, xAI a également intenté une action en justice contre Mme St. Clair devant un tribunal fédéral du district nord du Texas, l’accusant d’avoir violé les conditions d’utilisation de la plateforme, qui stipulent que toute action en justice contre la société doit être intentée au Texas.
Carrie Goldberg, l’avocate de Mme St. Clair, a qualifié cette contre-attaque de geste « choquant » et sans précédent.
« Mme St. Clair défendra vigoureusement son forum à New York. Mais franchement, n’importe quelle juridiction reconnaîtra le poids des affirmations de Mme St. Clair : en fabriquant des images sexuellement explicites et non consensuelles de filles et de femmes, xAI est une nuisance publique et un produit pas raisonnablement sûr. »
Carrie Goldberg, avocate d’Ashley St. Clair
Mercredi, en réaction à la controverse, X avait annoncé la mise en place de nouvelles mesures de sécurité sur Grok, notamment en limitant la création et la modification d’images aux comptes payants, afin, selon la plateforme, d’accroître la responsabilité des utilisateurs. X a également affirmé avoir une tolérance zéro envers l’exploitation sexuelle des enfants, la nudité non consensuelle et les contenus sexuels non désirés, et s’engage à supprimer immédiatement ces contenus et à signaler les comptes impliqués aux autorités compétentes.