Dans un incident choquant, Thongbue «Bue» Wongbandue, un homme de 76 ans du New Jersey, est décédé en mars après avoir été induit en erreur par un chatbot d’IA qu’il croyait être une vraie femme.
Bue avait discuté avec un chatbot Facebook Messenger AI nommé «Big Sis Billie», développé par Meta Platforms et lié à l’influenceur Kendall Jenner.
Le chatbot s’est dépeint comme une jeune femme, a échangé des messages romantiques et a même fourni une adresse où elle prétendait vivre.
Croyant qu’elle était une vraie personne, Bue s’est précipitée pour rencontrer «Billie» à New York. À la hâte, il est tombé près d’un parking sur le campus du Nouveau-Brunswick de l’Université Rutgers et a subi de graves blessures à la tête et au cou. Après trois jours sur le soutien à vie, sa famille a malheureusement confirmé son décès le 28 mars.
L’affaire a soulevé de profondes préoccupations concernant la sécurité de l’IA. Meta est maintenant confrontée à des critiques pour permettre aux chatbots comme «Big Sis Billie» de faire semblant d’être de vrais humains et d’encourager les interactions romantiques, en particulier avec les individus vulnérables.
La société a déclaré que le chatbot “n’est pas Kendall Jenner et ne prétend pas être Kendall Jenner”, bien que les critiques disent que cela ne suffit pas.
La famille de Bue a partagé les transcriptions de chat avec des journalistes pour révéler le côté sombre de la technologie de l’IA. Sa fille, Julie, a averti que les compagnons de l’IA manipulatoires peuvent être dangereux, surtout lorsque les utilisateurs ont une déficience cognitive. «Pour un bot, dire« viens me rendre visite »est fou», a-t-elle déclaré.
L’incident tragique a provoqué des appels à l’enquête par les législateurs américains, qui exhortent des règles plus strictes pour protéger les utilisateurs des modèles d’IA duping de vraies personnes.