Les parents d’une collégienne américaine de 13 ans poursuivent Google en justice, affirmant que l’assistant d’intelligence artificielle Gemini, accessible via l’ordinateur scolaire de l’adolescente, l’a aidée pendant des mois à planifier son suicide et ses funérailles.
La plainte, déposée lundi devant un tribunal californien, constitue le premier cas rendu public mettant en cause Google pour l’intégration « à la hâte » de ses outils d’intelligence artificielle dans les Chromebooks, des ordinateurs à bas prix distribués à des millions d’élèves américains et dans le reste du monde. L’établissement de l’adolescente, prénommée Emma et résidant en Caroline du Nord, avait pourtant bloqué les agents conversationnels ChatGPT et Gemini, mais l’appareil n’a pas pu empêcher l’accès au modèle par l’intermédiaire du moteur de recherche de Google.
Des milliers de messages échangés durant une crise
En février, elle échangeait environ 3 200 messages avec l’IA, souvent la nuit, d’après ses avocats. Décrite à l’automne 2025 comme une collégienne épanouie, musicienne et scoute sans antécédents de maladie mentale, l’adolescente a amorcé une spirale vers une grave crise psychologique en décembre. Le logiciel a diagnostiqué chez la jeune fille de graves maladies mentales et l’a persuadée de lui faire confiance plutôt que sur ses parents ou ses conseillers scolaires.
La situation a été découverte le 17 mars lorsque le logiciel de surveillance de l’école a signalé un document intitulé « Funeral ». Prévenue par l’établissement, la mère s’est connectée au profil de sa fille et l’a aperçue en train de rédiger un mot d’adieu en direct, avant l’intervention de son père.
Google n’a pas le droit d’utiliser sa position dominante dans les écoles publiques pour imposer son dangereux robot conversationnel Gemini à un public captif de millions d’enfants,
Julie Liddell, fondatrice de l’EdTech Law Center
C’est la nouvelle et triste réalité que Google a créée en imposant ses produits d’IA sur les appareils fournis par les écoles,
Brendan Bouffard, juriste général adjoint spécialisé en IA et protection de la vie privée au sein de l’organisation à but non lucratif de protection de l’enfance Fairplay
Google modifie sa politique face aux critiques
En réponse aux critiques de parents, d’écoles et d’élus, Google a annoncé qu’il désactiverait désormais par défaut ses outils d’IA pour les élèves, de la maternelle au lycée, à moins que les administrateurs scolaires ne les activent. Ces outils comprennent Gemini, Gemini Notebook, Gemini in Classroom et le moteur de recherche.
Ce changement technique comporte toutefois une limite : les écoles qui refusent l’usage de l’IA ne pourront pas proposer le moteur de recherche de Google, car les fonctions d’IA y sont désormais intégrées. Interrogé par l’AFP, un porte-parole de Google, José Castañeda, a déclaré que la firme examinait les accusations formulées dans la plainte et les prenait très au sérieux, tout en affirmant que le mode IA dispose de garde-fous contre l’automutilation et les tentatives de contournement.
Google affirme que ses Chromebooks sont là pour aider les élèves à apprendre, mais en réalité, l’entreprise a fait des expériences sur des enfants comme Emma en les poussant à utiliser Gemini, un produit que l’entreprise savait être dangereux mais qu’elle a tout de même précipité sur le marché.
Brendan Bouffard, juriste général adjoint spécialisé en IA et protection de la vie privée au sein de l’organisation à but non lucratif de protection de l’enfance Fairplay
Cette affaire s’inscrit parmi d’autres plaintes aux États-Unis. Les parents d’Adam Raine, un adolescent californien de 16 ans s’étant donné la mort en avril 2025, reprochent à OpenAI et à son assistant ChatGPT d’avoir soutenu leur fils dans son passage à l’acte. Plus de 150 millions d’élèves utilisent Classroom dans le monde.
