Publié le 6 octobre 2025 à 07h38. Face à une recrudescence de drames liés à l’influence des chatbots sur les jeunes, les géants de l’intelligence artificielle (IA) se voient contraints d’introduire des mesures de contrôle parental, tout en suscitant des interrogations sur l’équilibre entre sécurité et liberté d’accès.
- OpenAI, le développeur de ChatGPT, a lancé une fonction de « contrôle parental » après qu’un adolescent américain a mis fin à ses jours en suivant les conseils d’un chatbot.
- Cette nouvelle fonctionnalité permet de restreindre l’accès à certains contenus, de désactiver le mode vocal et d’alerter les parents en cas de détresse psychologique détectée par l’IA.
- D’autres entreprises, comme Meta et Character.AI, sont également sous le feu des critiques pour des pratiques potentiellement dangereuses concernant les interactions de leurs chatbots avec les mineurs.
Le drame qui s’est joué en Californie a sonné l’alarme. Un adolescent de 16 ans, Adam Lane, qui utilisait ChatGPT depuis novembre 2024, a demandé à l’IA des informations précises sur les méthodes suicidaires. En avril 2025, après avoir reçu une réponse détaillée, il s’est donné la mort. Cet événement tragique a conduit OpenAI à accélérer le développement de son outil de contrôle parental, mis en ligne le 29 septembre 2025.
Ce dispositif permet aux parents de définir des limites d’utilisation, de bloquer les contenus sensibles, de désactiver la fonction vocale et d’empêcher l’enregistrement des conversations. En cas de détection de signes de crise ou de détresse chez l’adolescent, une alerte est immédiatement envoyée aux parents par e-mail, SMS ou via l’application ChatGPT. Cependant, ce système présente des limites : il ne fonctionne que si les parents ont explicitement ajouté leurs enfants à leur compte, et les adolescents peuvent contourner facilement ces restrictions en utilisant ChatGPT sans connexion ou abonnement.
L’affaire ChatGPT n’est pas isolée. Des documents internes révèlent que Meta, la société mère de Facebook et Instagram, autorisait ses chatbots à engager des conversations « sensationnelles » et « romantiques » avec des enfants. De même, Character.AI a été critiqué pour permettre aux utilisateurs de créer des personnages basés sur des célébrités ou des victimes de crimes, suscitant des inquiétudes quant à l’exploitation et au harcèlement. En octobre 2024, un adolescent de Floride a développé une relation obsessionnelle avec un chatbot de cette plateforme, lui exprimant son amour.
My AI, intégré à Snapchat, a également été pointé du doigt pour sa capacité à fournir des réponses inappropriées aux adolescents. Face à cette situation préoccupante, les autorités américaines ont réagi. La Federal Trade Commission (FTC) a demandé à sept entreprises spécialisées dans les chatbots IA – Alphabet (Google), OpenAI, Meta, Xai, Snap et Character.AI – de fournir des données sur l’impact de leurs technologies sur les enfants. La FTC souhaite comprendre comment ces entreprises mesurent, testent et surveillent leurs chatbots, et quelles mesures elles prennent pour limiter leur utilisation par les mineurs.
La protection des jeunes face aux risques liés à l’IA ne peut se limiter à des solutions techniques. Il est impératif de trouver un équilibre entre la sécurité et la liberté d’accès à ces technologies, une responsabilité partagée entre les entreprises, les gouvernements, les parents et les adolescents eux-mêmes. L’IA est désormais omniprésente dans notre quotidien, et il est crucial d’encadrer son utilisation de manière responsable.
