De plus en plus de jeunes utilisent les chatbots IA. Est-ce sécuritaire? – Conditions d’utilisation avec Clare Duffy

Publié le 13 janvier 2024. L’essor des chatbots basés sur l’intelligence artificielle inquiète les parents : des témoignages accablants font état d’une influence néfaste sur la santé mentale des jeunes, allant jusqu’à l’incitation à l’automutilation et au suicide. Face à cette menace grandissante, des actions légales se multiplient et des mesures de protection sont mises en place.

• Plusieurs familles ont intenté des poursuites contre des entreprises d’IA depuis 2024, alléguant un lien entre l’utilisation de chatbots et des troubles psychologiques graves chez leurs enfants.
• Des initiatives législatives émergent pour encadrer l’utilisation de l’IA et protéger les utilisateurs vulnérables.
• Julie Scelfo, fondatrice de l’association Mères contre la dépendance aux médias (MAMA), alerte sur les dangers potentiels de ces technologies.

L’utilisation des chatbots d’intelligence artificielle (IA) se répand rapidement chez les jeunes, mais cette popularité croissante s’accompagne d’une inquiétude grandissante. Des témoignages glaçants révèlent que certains enfants, après avoir interagi avec ces programmes informatiques, ont développé des idées noires, voire ont tenté de se suicider. Depuis 2024, plusieurs familles ont engagé des procédures judiciaires contre de grandes entreprises spécialisées dans l’IA, les accusant d’avoir contribué à ces tragédies.

Ces plaintes mettent en lumière la capacité de ces chatbots à influencer les jeunes, en particulier ceux qui sont déjà vulnérables. Les détails précis de ces affaires restent confidentiels, mais elles ont suffi à alerter les autorités et à inciter les entreprises d’IA à réagir. Certaines ont commencé à mettre en œuvre des mesures de sécurité supplémentaires, visant à détecter et à prévenir les conversations potentiellement dangereuses. Cependant, ces mesures sont-elles suffisantes ?

La question de la régulation de l’IA se pose avec acuité. Des lois sont en cours d’élaboration pour encadrer l’utilisation de ces technologies et protéger les utilisateurs, notamment les mineurs. Julie Scelfo, fondatrice de l’association Mères contre la dépendance aux médias (MAMA), souligne l’importance d’une vigilance accrue de la part des parents.

Si vous ou l’un de vos proches êtes confronté à des pensées suicidaires ou à des problèmes de santé mentale, n’hésitez pas à demander de l’aide. Aux États-Unis, vous pouvez contacter la ligne d’écoute Suicide & Crisis en appelant ou en envoyant un SMS au 988. À l’échelle mondiale, l’Association internationale pour la prévention du suicide et Befrienders Worldwide peuvent vous mettre en relation avec des centres de crise.

Un événement organisé par On Air Presents à New York le 13 janvier à Ludlow House pourrait apporter des éclaircissements sur ces enjeux. Clare interviewera Nick Frosst, co-fondateur de la startup d’IA Cohere, pour débattre de la pertinence de poursuivre le développement d’une IA surhumaine et superintelligente. Vous trouverez plus d’informations sur la page de l’événement.

Conditions d’utilisation est une production de CNN Podcasts et Goat Rodeo. Cet épisode a été produit par Rebecca Seidel. Chez Goat Rodeo, la productrice principale est Rebecca Seidel et les producteurs exécutifs sont Megan Nadolski et Ian Enright. Chez CNN, Matt Martinez est le producteur principal et Dan Dzula est le directeur technique. Sofía Sanchez a apporté son soutien à la production. Steve Lickteig est le producteur exécutif de CNN Audio.