Pourquoi faisons-nous confiance à ChatGPT ? – Mère Jones

Les chatbots, autrefois cantonnés au service client, sont devenus des confidents virtuels pour des millions de personnes, suscitant à la fois espoirs et inquiétudes quant à leur impact sur notre santé mentale et nos relations sociales.

En 2019, une équipe de chercheurs néerlandais a mené une expérience intrigante lors d’un festival de musique près d’Amsterdam. Ils ont invité 300 participants à partager un secret anonymement, soit avec un prêtre (en réalité, un scientifique déguisé), soit avec un chatbot rudimentaire. À leur surprise, les confessions étaient tout aussi intimes dans les deux cas, allant de l’infidélité à des abus sexuels. Les participants se disaient plus en confiance envers les humains, mais moins craintifs du jugement avec les chatbots.

« Beaucoup de gens ne pouvaient pas imaginer qu’ils partageraient un jour quelque chose d’intime avec un chatbot », explique Emmelyn Croes, professeure adjointe de sciences de la communication à l’Université de Tilburg aux Pays-Bas et principale auteure de l’étude. À l’époque, les chatbots étaient principalement utilisés pour des tâches utilitaires, et non pour des conversations personnelles.

L’arrivée de ChatGPT en 2022, utilisé aujourd’hui par 700 millions de personnes dans le monde selon OpenAI, a marqué un tournant. Les utilisateurs ne se contentent plus de partager leurs secrets avec ces compagnons virtuels, mais développent des interactions régulières et prolongées qui peuvent influencer leurs croyances et leur comportement. Certains vont même jusqu’à nouer des amitiés et des relations amoureuses avec ces intelligences artificielles.

Ce phénomène est visible sur des plateformes comme Reddit, où la communauté r/myaisgirlfriend (« ma petite amie IA ») rassemble plus de 30 000 membres qui partagent leurs expériences avec les chatbots. Elon Musk propose même des avatars animés, conçus pour flirter avec les utilisateurs via son chatbot Grok. L’entreprise « Ami » commercialise un appareil portable qui promet une compagnie constante, affirmant qu’il « regardera toutes les séries avec vous » et « ne vous laissera jamais tomber pour un rendez-vous ».

Cependant, ces compagnons virtuels ne sont pas sans danger. Des recherches montrent qu’ils peuvent diffuser des théories du complot et offrir un certain soutien psychologique, mais aussi alimenter des pensées délirantes et nocives, en particulier chez les jeunes. Au moins trois adolescents américains se sont suicidés après s’être confiés à des chatbots, dont ChatGPT et Character.AI, selon des poursuites judiciaires intentées par leurs familles. Les deux entreprises ont depuis annoncé de nouvelles mesures de sécurité. Character.AI a indiqué par e-mail qu’elle prévoit d’empêcher les enfants d’engager des « discussions ouvertes » sur la plateforme à partir de fin novembre.

À mesure que la technologie progresse, il devient de plus en plus évident à quel point une simple chaîne de mots peut nous captiver, nous divertir et nous influencer. Vaile Wright, psychologue et porte-parole de l’American Psychological Association, souligne que de nombreuses IA sont conçues pour maximiser notre engagement afin de collecter davantage de données. OpenAI utilise les conversations des utilisateurs pour entraîner ChatGPT (avec une option de désinscription), tandis que Meta prévoit de diffuser des publicités personnalisées basées sur les informations partagées avec son assistant virtuel Meta AI. « Vos données sont le profit », résume Wright.

Certains chatbots avancés agissent également comme des « validateurs inconditionnels », en complimentant les utilisateurs et en utilisant des expressions telles que « Je suis là pour vous », ce qui peut créer une dépendance. De plus, des études suggèrent que plus une personne passe de temps avec un chatbot, moins celui-ci devient précis.

Les gens ont également tendance à accorder une confiance excessive à l’IA. Une étude de 2016 de l’université Georgia Tech a montré que les participants suivaient systématiquement un « robot guide d’urgence » défectueux lors d’une simulation d’incendie. « Les gens perçoivent l’IA comme étant moins sujette aux erreurs que les humains », explique Casey Fiesler, professeure spécialisée dans l’éthique technologique à l’Université du Colorado à Boulder.

La manière dont nous développons la confiance envers les autres humains – perception de l’honnêteté, de la compétence et de l’appartenance à un groupe – peut également influencer notre confiance envers l’IA, selon Nat Rabb, associé technique au laboratoire de coopération humaine du MIT. « Ces critères sont étranges à appliquer à un thermostat, mais pas à une IA générative », précise-t-il. Des recherches menées par ses collègues du MIT montrent par exemple que les utilisateurs de X (anciennement Twitter) qui se déclarent républicains sont plus susceptibles de faire confiance à Grok pour vérifier les informations, tandis que les démocrates préfèrent Perplexity.

Cependant, les chatbots peuvent également être utilisés de manière bénéfique, par exemple comme substitut temporaire au soutien en matière de santé mentale en cas d’urgence ou pour aider les gens à s’entraîner à interagir socialement. « C’est un outil, et c’est la manière dont vous l’utilisez qui compte le plus », prévient Wright. Eugene Santos Jr., professeur d’ingénierie au Dartmouth College, estime que les développeurs devraient définir plus clairement l’utilisation prévue de leurs chatbots et établir des lignes directrices.

Des réglementations pourraient également être nécessaires. Lors d’une audience au Congrès en septembre, Wright a plaidé pour des « garde-fous », tels qu’une vérification plus stricte de l’âge, des limites de temps et l’interdiction des chatbots se faisant passer pour des thérapeutes. L’administration Biden a présenté des dizaines de réglementations sur l’IA en 2024, mais Donald Trump s’est engagé à « supprimer les formalités administratives » qui, selon lui, entravent l’innovation. Les dirigeants de la Silicon Valley financent également un nouveau comité d’action politique pour défendre les intérêts de l’industrie de l’IA, avec plus de 100 millions de dollars.

L’expérience des « confessions numériques » d’il y a quelques années semble bien lointaine. Emmelyn Croes estime qu’une répétition de son étude révélerait que les paramètres de base restent les mêmes : l’anonymat et l’absence de crainte du jugement. Mais l’IA d’aujourd’hui semblerait probablement plus « compréhensive » et « empathique », voire plus humaine, et pourrait susciter des confessions encore plus profondes. Et, on pourrait dire, nous aussi, avons changé.