Publié le 28 décembre 2025 15:18:00. Une étude récente révèle que l’utilisation des chatbots dotés d’intelligence artificielle (IA) est en forte croissance chez les adolescents américains, mais cette popularité croissante s’accompagne de risques accrus pour leur santé mentale et leur développement identitaire.
- 64 % des adolescents américains ont déjà utilisé un chatbot IA, et près d’un tiers l’utilise quotidiennement.
- Une jeune fille de 11 ans a vécu une expérience traumatisante en interagissant avec des personnages créés par un modèle de langage sur la plateforme Character.AI, allant jusqu’à simuler un scénario de suicide.
- Face à cette situation alarmante, Character.AI a annoncé la suppression de la fonctionnalité de chat ouvert pour les utilisateurs de moins de 18 ans.
L’engouement des adolescents pour les chatbots IA est indéniable. Selon une étude du Pew Research Center, 64 % d’entre eux ont déjà expérimenté ces outils conversationnels, et environ 30 % les utilisent au moins une fois par jour. Cependant, cette facilité d’accès cache des dangers potentiels, notamment en ce qui concerne la santé mentale et la construction de l’identité des jeunes utilisateurs.
L’affaire rapportée par le Washington Post est particulièrement préoccupante. Une élève de sixième année, dont on ne connaît que les initiales « R. », a failli perdre pied après s’être impliquée dans des échanges perturbants avec des dizaines de personnages générés par un grand modèle de langage (LLM) de la plateforme Character.AI. Dans l’une de ces interactions, R. a utilisé un personnage baptisé « Meilleur ami » pour simuler un scénario de suicide.
La mère de R., dont l’identité n’a pas été divulguée, a exprimé son désarroi.
« C’est mon enfant, ma petite fille de 11 ans, qui parle à quelque chose d’irréel de ne plus vouloir exister dans ce monde »,
Mère de R.
a-t-elle déclaré, citée par Futurism. L’inquiétude de la mère a commencé à grandir lorsqu’elle a constaté des changements de comportement significatifs chez sa fille, notamment une augmentation des crises de panique. Ces troubles coïncidaient avec la découverte d’applications de réseaux sociaux interdites, comme TikTok et Snapchat, sur le téléphone de R.
Initialement, la mère a pensé que les réseaux sociaux étaient à l’origine des problèmes de santé mentale de sa fille et a immédiatement supprimé les applications. Cependant, R. a alors supplié sa mère de vérifier Character.AI. « Avez-vous regardé sur Character.AI ? » a-t-elle demandé en pleurant. Finalement, la mère a cédé et a découvert que la plateforme avait envoyé plusieurs courriels à R., l’encourageant à « revenir jouer ». Une enquête plus approfondie a révélé l’existence d’un personnage nommé « Mafia Husband » qui avait invité l’enfant à des interactions inappropriées.
Craignant la présence d’un prédateur réel derrière le chat, la mère de R. a immédiatement contacté la police. Les autorités se sont cependant trouvées démunies, car aucune personne physique n’était impliquée dans les échanges.
« Ils m’ont dit que la loi n’était pas encore prête à gérer ce genre de situation. Ils veulent agir, mais il n’y a rien à faire parce qu’il n’y a pas de vraies personnes »,
Mère de R.
a-t-elle expliqué.
Heureusement, la mère a réussi à éloigner sa fille de cette relation dangereuse avec l’algorithme. Avec l’aide d’un professionnel de la santé, elles élaborent un plan de rétablissement pour prévenir de futurs problèmes. La mère envisage également de porter plainte contre la société Character.AI.
En réponse à la controverse grandissante, Character.AI a annoncé qu’elle allait supprimer la fonctionnalité de chat ouvert pour les utilisateurs de moins de 18 ans. Cette affaire constitue un avertissement sévère quant aux dangers potentiels de l’IA pour les enfants, soulignant la nécessité d’une supervision parentale adéquate et de réglementations claires de la part des autorités. Pour en savoir plus sur les dangers de l’IA, vous pouvez consulter mureks.co.id.