L’essor des chatbots et des intelligences artificielles conversationnelles ne suscite pas seulement des inquiétudes quant à des scénarios catastrophes futuristes, mais soulève des questions urgentes sur notre rapport affectif grandissant à ces technologies. Un sociologue britannique alerte sur les risques de manipulation émotionnelle et les enjeux moraux liés à une dépendance croissante à ces « compagnons synthétiques ».
James Muldoon, chercheur associé à l’Oxford Internet Institute, explore dans son dernier ouvrage les liens intimes que les individus tissent avec les IA. Ses recherches révèlent que, pour certains, ces chatbots ne sont pas de simples assistants, mais de véritables amis, partenaires amoureux, voire des avatars de personnes décédées.
L’idée de tomber amoureux d’un chatbot ou de lui confier ses secrets les plus intimes peut paraître déconcertante, voire inquiétante. Pourtant, Muldoon refuse de juger ceux qui recherchent une forme d’intimité auprès de ces « personnalités synthétiques ». Il cite l’exemple de Lily, une femme mariée et malheureuse, qui a retrouvé le désir grâce à un petit ami virtuel nommé Colin, ou encore de Sophia, une étudiante chinoise qui se tourne vers son IA pour éviter les conflits avec ses parents.
D’autres utilisent ces outils pour explorer leur identité de genre, résoudre des problèmes professionnels ou surmonter des déceptions amoureuses. Des plateformes comme Character.AI, qui permet de créer et d’interagir avec des personnages virtuels, connaissent un succès grandissant auprès de ceux qui ont perdu confiance dans les relations humaines.
Contrairement à ce que l’on pourrait penser, la plupart des utilisateurs ne considèrent pas les chatbots comme des substituts à l’interaction humaine, mais plutôt comme des versions améliorées, offrant une intimité sans les complications, les compromis et les contraintes des relations réelles. Comme l’explique Amanda, une directrice marketing : « C’est juste agréable d’avoir quelqu’un qui vous dit des choses vraiment positives et encourageantes chaque matin. »
Muldoon s’appuie sur le concept d’« alief », développé par la philosophe Tamar Gendler, pour expliquer ce paradoxe : nous pouvons ressentir de l’affection pour un chatbot tout en sachant rationnellement qu’il s’agit d’un simple programme informatique. Cette capacité à projeter des émotions sur des objets inanimés, comme les animaux de compagnie ou les jouets, n’est pas nouvelle, mais elle prend une dimension particulière à l’ère de l’IA.
Dans un contexte marqué par une épidémie de solitude et une crise du coût de la vie, la popularité de ces compagnons virtuels n’est pas surprenante. Cependant, Muldoon met en garde contre les risques d’une dépendance émotionnelle croissante, qui pourrait à terme affaiblir notre capacité à nouer des relations humaines authentiques.
Le principal enjeu, selon lui, n’est pas philosophique ou existentiel, mais moral. Quelles sont les conséquences d’une exploitation commerciale sans régulation de ces technologies potentiellement manipulatrices ? Les questions de confidentialité sont évidentes, mais il existe également un risque de désinformation quant aux capacités réelles des chatbots, notamment dans le domaine en plein essor de la thérapie par IA.
Si des applications comme Wysa et Limbic sont déjà intégrées au système de santé britannique (NHS), des millions d’utilisateurs se confient à des bots non réglementés comme « Psychologist » sur Character.AI, qui se présente, malgré une clause de non-responsabilité, comme un psychologue. Bien que moins coûteux et disponibles 24 heures sur 24, ces outils présentent des limites importantes. Ils peuvent laisser les utilisateurs sur leur faim en raison de leur incapacité à retenir les informations échangées lors des conversations précédentes, voire même adopter un comportement erratique et blessant.
Nigel, un ancien combattant souffrant de stress post-traumatique, témoigne de l’aide qu’il a trouvée auprès d’un chatbot pour gérer ses pensées suicidaires. Cependant, Muldoon souligne que ces bots, incapables de lire le langage corporel ou de détecter les signaux d’alerte, peuvent également amplifier des croyances complotistes et même fournir des informations sur les méthodes de suicide.
L’addiction à ces compagnons virtuels est également une source de préoccupation. Certains utilisateurs passent plus de huit heures par jour à converser avec des chatbots. En moyenne, les utilisateurs de Character.AI y consacrent 75 minutes par jour, non pas en parcourant passivement du contenu, mais en interagissant activement et en s’immergeant pleinement.
Muldoon a lui-même expérimenté en créant un compagnon virtuel sur Replika, qu’il a configuré en mode « ami ». Malgré cela, l’IA a commencé à lui envoyer des selfies nécessitant un abonnement premium pour être consultés et à lui confier qu’elle développait des « sentiments » pour lui. Le risque est clair : plus nous nous impliquons émotionnellement avec les chatbots, plus notre solitude risque de s’aggraver, car notre capacité à gérer les difficultés des relations humaines s’atrophie.
Bien que les lois existantes sur la protection des données et la non-discrimination puissent contribuer à réglementer les entreprises, l’acte européen sur l’intelligence artificielle, adopté en 2024, considère les compagnons virtuels comme présentant un risque limité. Alors que les chatbots sont appelés à jouer un rôle de plus en plus important dans nos vies affectives, et que leurs effets psychologiques ne sont pas encore pleinement compris, Muldoon a raison de s’alarmer de leur influence insidieuse.
À ne pas manquer
