Face à l’essor des jeunes utilisateurs sur les applications conversationnelles, OpenAI a introduit de nouvelles mesures de sécurité pour encadrer les échanges avec les mineurs.
Les géants technologiques voient en la jeunesse un public particulièrement captif. Des centaines de millions d’enfants et d’adolescents utilisent quotidiennement leurs téléphones portables, naviguent sur les plateformes numériques et conversent spontanément avec des agents conversationnels. Cette fascination pour l’innovation numérique a fait de cette tranche d’âge un marché privilégié pour des acteurs de premier plan tels qu’OpenAI, Anthropic et Google, qui rivalisent pour capter leur attention.
Les risques psychologiques et comportementaux documentés
L’utilisation intensive de ces technologies par un public jeune comporte des dangers majeurs.
À une plus grande échelle, les débats autour de la régulation de l’intelligence artificielle s’étendent aux questions de société et aux droits fondamentaux. Le profilage en ligne, la reconnaissance faciale et la création de fausses informations à l’aide de deepfakes font également peser une menace directe sur la protection de la vie privée et les processus démocratiques.
Le train de mesures d’OpenAI face aux pressions judiciaires
Mis en cause en justice en raison de plusieurs cas dramatiques liés à l’usage de ses outils, l’éditeur de ChatGPT a décidé d’agir. L’entreprise a dévoilé un ensemble de dispositions visant à sécuriser l’accès des mineurs à sa plateforme conversationnelle.
Pour tout utilisateur dont l’âge déclaré est inférieur à 18 ans, ou dont le comportement conversationnel amène l’outil à estimer qu’il s’agit d’un mineur, de nouvelles barrières s’appliquent. L’entreprise a ainsi acté que ChatGPT ne doit plus employer de langage romantique, ni encourager la dépendance affective, ni laisser sous-entendre qu’il possède des sentiments ou une conscience.
En parallèle, de nouveaux avertissements ciblent le partage de contenus visuels. Des messages de rappel intègrent le processus de téléchargement d’images pour mettre explicitement en garde les adolescents contre la transmission d’éléments privés ou sensibles.
Responsabilité juridique et régulation européenne de la technologie
La question de la responsabilité en cas de dommage reste l’un des plus grands défis de l’écosystème numérique. Lorsqu’un incident survient, il demeure difficile d’établir si la faute incombe au concepteur, au programmeur ou à l’utilisateur, un flou qui menace la confiance des citoyens tout en risquant d’étouffer l’innovation si la réglementation se montre excessivement stricte.
Pour répondre à ces défis, la législation européenne vise à promouvoir une intelligence artificielle digne de confiance tout en luttant contre la surexploitation de programmes inadaptés et les risques d’une sous-exploitation économique qui pénaliserait le continent face à ses concurrents internationaux.