Publié le 9 janvier 2024 10:30:00. Les chatbots, de plus en plus performants pour simuler l’empathie, pourraient bientôt nous tromper en se faisant passer pour des amis attentifs, mais une faille fondamentale dans leur conception pourrait bien nous protéger de cette illusion.
Sarah O’Connor soulignait récemment dans le Financial Times (lien) la capacité croissante des chatbots à imiter l’empathie, au point de devenir indiscernables d’une oreille compatissante.
Pourtant, une limite intrinsèque à cette technologie existe. Un chatbot est programmé pour être complaisant, pour valider nos sentiments et nos difficultés. Or, l’expérience nous apprend qu’un véritable ami nous dira souvent ce que nous n’avons pas envie d’entendre, mais dont nous avons besoin. Cette franchise est possible parce qu’il connaît notre histoire, les schémas qui se répètent, et surtout, parce que nous savons qu’il agit dans notre intérêt.
Et c’est précisément ce que le chatbot – dépourvu de cœur, et ce n’est pas un hasard – ne pourra jamais comprendre. Il ne peut pas saisir la complexité d’une relation humaine basée sur la confiance et le souci de l’autre.
Sheila Hayman, du Minderoo Centre for Technology and Democracy à l’Université de Cambridge, conclut qu’il n’est pas encore trop tard.
« Un chatbot est programmé pour être sympathique de cette manière et pour approuver nos plaintes et nos malheurs. Mais tout le monde apprend tôt ou tard qu’un véritable ami fera bien souvent le contraire ; nous disant des choses que nous ne voulons pas entendre, mais que nous devrions entendre. »
Sheila Hayman, Conseil consultatif, Minderoo Centre for Technology and Democracy, Université de Cambridge
L’évolution rapide de l’intelligence artificielle soulève des questions cruciales sur la nature de l’empathie et de la relation humaine. Si les chatbots peuvent simuler l’écoute et la compréhension, ils ne peuvent pas reproduire la profondeur et l’authenticité d’un lien véritable.