Le Cambridge Dictionary a déclaré « halluciner » comme mot de l’année 2023 – tout en donnant au terme une nouvelle signification supplémentaire liée à la technologie de l’intelligence artificielle.
La définition traditionnelle du terme « halluciner » est lorsqu’une personne semble ressentir quelque chose qui n’existe pas, généralement en raison d’un problème de santé ou de la prise de drogues, mais cela se rapporte désormais également à IA produire de fausses informations.
La définition supplémentaire du Cambridge Dictionary se lit comme suit : « Lorsqu’une intelligence artificielle (= un système informatique qui possède certaines des qualités du cerveau humain, comme la capacité de produire un langage d’une manière qui semble humaine) hallucine, elle produit de fausses informations. “
Cette année, on a assisté à un regain d’intérêt pour les outils d’IA tels que ChatGPT. Le chatbot accessible a même été utilisé par un juge britannique pour rédiger une partie d’une décision de justice alors que un auteur a expliqué à Sky News comment il l’aidait avec ses romans.
Cependant, il ne fournit pas toujours une prose fiable et vérifiée.
Les hallucinations de l’IA, également connues sous le nom de confabulations, se produisent lorsque les outils fournissent de fausses informations, qui peuvent aller de suggestions qui semblent parfaitement plausibles à des suggestions qui sont clairement complètement absurdes.
Wendalyn Nichols, responsable de la publication du Cambridge Dictionary, a déclaré : « Le fait que les IA puissent « halluciner » nous rappelle que les humains doivent encore faire appel à leur esprit critique pour utiliser ces outils.
“Les IA sont fantastiques pour traiter d’énormes quantités de données afin d’en extraire des informations spécifiques et de les consolider. Mais plus vous leur demandez d’être originales, plus elles risquent de s’égarer.”
En savoir plus:
Elon Musk affirme que l’IA est “un risque pour l’humanité”
L’IA peut-elle contribuer au succès des applications de rencontres ?
Ajoutant que les outils d’IA utilisant de grands modèles de langage (LLM) « ne peuvent être aussi fiables que leurs données de formation », elle a conclu : « L’expertise humaine est sans doute plus importante – et recherchée – que jamais, pour créer des outils faisant autorité et à jour. dater les informations sur lesquelles les LLM peuvent être formés.
L’IA peut halluciner de manière confiante et crédible – ce qui a déjà eu des impacts concrets.
Un cabinet d’avocats américain cité des cas fictifs devant les tribunaux après avoir utilisé ChatGPT pour des recherches juridiques pendant la vidéo promotionnelle de Google pour son chatbot IA Bard a commis une erreur factuelle à propos du télescope spatial James Webb.
« Un profond changement de perception »
Le Dr Henry Shevlin, éthicien de l’IA à l’Université de Cambridge, a déclaré : « L’utilisation généralisée du terme « halluciner » pour désigner les erreurs commises par des systèmes comme ChatGPT fournit […] un aperçu fascinant de la façon dont nous anthropomorphisons l’IA. »
“‘Halluciner’ est un verbe évocateur qui implique un agent en déconnexion de la réalité”, a-t-il poursuivi. “Ce choix linguistique reflète un changement de perception subtil mais profond : c’est l’IA, et non l’utilisateur, qui “hallucine”.
“Bien que cela ne suggère pas une croyance répandue dans la sensibilité de l’IA, cela souligne notre volonté d’attribuer des attributs humains à l’IA.
“Au fur et à mesure que cette décennie avance, je m’attends à ce que notre vocabulaire psychologique s’étende encore davantage pour englober les étranges capacités des nouvelles intelligences que nous créons.”
