Ce n’est pas parce que les chatbots ne peuvent pas penser qu’ils ne peuvent pas mentir

Ce n’est pas parce que les chatbots ne peuvent pas penser qu’ils ne peuvent pas mentir

Le 20 mars, les plaidoiries seront entendues dans le procès des éditeurs contre Internet Archive, qui a été déposé il y a près de trois ans. Beaucoup de choses ont changé depuis lors dans le monde des bibliothèques. Une évolution surprenante est que les archives Internet et sa bibliothèque ouverte sont soudainement devenues des référentiels d’informations vérifiables d’une valeur exponentielle.

Fin février, Tyler Cowen, professeur d’économie libertaire à l’Université George Mason, a publié un article de blog intitulé « Qui était le critique le plus important de l’imprimerie au 17e siècle ? Le billet de Cowen soutenait que le polymathe et homme d’État Francis Bacon était un critique « important » de l’imprimerie ; malheureusement, le message contient de longues et fausses citations attribuées à Bacon L’avancement de l’apprentissage (1605), complet avec de faux numéros de chapitre et de section.

L’écrivain technique Mathew Ingram a attiré l’attention sur les fabrications quelques jours plus tard, notant que Cowen écrivait avec approbation sur le chatbot AI ChatGPT depuis un certain temps maintenant; plusieurs commentateurs sur le post de Cowen ont supposé que les fausses citations devaient être l’œuvre de ChatGPT. (Cowen n’a pas répondu aux questions par e-mail concernant le message au moment de la presse, et a ensuite supprimé le message entièrement, sans aucune explication. Cependant, une copie reste sur la Wayback Machine d’Internet Archive).

Heureusement, c’était un jeu d’enfant de vérifier les fausses citations de Cowen par rapport au texte original de L’avancement de l’apprentissage, gratuitement, à la bibliothèque ouverte d’Internet Archive. Après avoir consulté le vrai livre, je suis allé sur ChatGPT pour une session de questions-réponses. Le bot a rapidement commencé à concocter de fausses citations de Bacon et des titres de chapitres grossièrement inélégants pour moi aussi, alors je l’ai appelé (un extrait non édité suit):

(De toute évidence, n’importe lequel d’entre nous aurait pu confondre Francis Bacon avec le père de Benjamin Disraeli – et le livre qu’il a écrit près de deux siècles après la mort de Bacon ! Bien sûr.)

Voici un autre extrait inédit de la “conversation”:

Soit dit en passant, ces applications pitoyables ne peuvent pas penser, et leurs opérateurs devraient le faire tomber avec les fausses excuses et les remerciements. De plus, quiconque les consulte est clairement un imbécile.

Lire aussi  Il y a un risque d'inondation, l'alerte continue

Leave a Reply

Your email address will not be published. Required fields are marked *

This site uses Akismet to reduce spam. Learn how your comment data is processed.

Recent News

Editor's Pick