La Californie vient de prendre une mesure inédite aux États-Unis : une nouvelle loi oblige désormais les chatbots à clairement indiquer qu’ils ne sont pas des êtres humains. Adoptée le 14 octobre 2025, cette législation vise à protéger les utilisateurs contre une confusion potentielle et à encadrer l’essor des intelligences artificielles conversationnelles.
Le Projet de loi du Sénat 243, signé par le gouverneur Gavin Newsom, s’applique plus particulièrement aux « chatbots compagnons », ces assistants virtuels conçus pour des interactions personnelles ou relationnelles, comme ChatGPT et Gemini. Elle stipule que si une personne raisonnable pourrait croire interagir avec un humain, le chatbot doit impérativement signaler son caractère artificiel.
Cette loi fait suite à une série d’événements préoccupants qui ont mis en lumière l’impact psychologique de ces technologies. Des cas, dont un drame impliquant le suicide d’un adolescent après une interaction avec une IA, ont poussé les législateurs californiens à agir. Si des entreprises comme OpenAI ont déjà mis en place des mesures de sécurité et de contrôle parental, elles sont jugées insuffisantes pour garantir une protection adéquate.
L’objectif principal est d’assurer une plus grande transparence et de limiter les risques liés au développement d’applications dites « AI Girlfriend » ou « AI Companion », susceptibles de créer des liens émotionnels artificiels. Pour la Californie, berceau de la Silicon Valley, cette loi est un signal fort : l’innovation technologique doit s’accompagner d’une responsabilité éthique.
Cette initiative s’inscrit dans un contexte mondial de réflexion sur les dangers potentiels de l’intelligence artificielle. L’Union européenne a déjà adopté en 2024 une loi sur l’IA qui impose aux systèmes d’IA générative d’informer les utilisateurs lorsqu’ils interagissent avec une intelligence artificielle, notamment lorsque cela pourrait les induire en erreur. De même, le gouvernement espagnol a récemment approuvé un projet de loi prévoyant de lourdes amendes pour les entreprises qui ne signalent pas clairement le contenu généré par l’IA (deepfakes, manipulations visuelles ou auditives) susceptible de tromper le public.
La difficulté croissante de distinguer un contenu original d’un contenu créé par l’intelligence artificielle est une préoccupation grandissante. Cette tendance, qui peut sembler anodine, présente des risques potentiels importants.