En moins de 2 mois, le programme d’intelligence artificielle (IA) ChatGPT est devenu une sensation culturelle. Il est librement accessible via un portail Web créé par le développeur de l’outil, OpenAI. Le programme, qui crée automatiquement du texte sur la base d’invites écrites, est si populaire qu’il est susceptible d’être “à pleine capacité en ce moment” si vous essayez de l’utiliser. Lorsque vous réussissez, ChatGPT offre un divertissement sans fin. Je lui ai demandé de réécrire la première scène de la pièce classique américaine Mort d’un vendeurmais pour présenter la princesse Elsa du film d’animation Gelé comme personnage principal au lieu de Willy Loman. Le résultat était une conversation amusante dans laquelle Elsa, qui est rentrée d’une dure journée de vente, se fait dire par son fils Happy: «Allez, maman. Vous êtes Elsa de Gelé. Vous avez des pouvoirs de glace et vous êtes une reine. Vous êtes imparable. Les mash-ups comme celui-ci sont certainement amusants, mais il y a de sérieuses implications pour les programmes d’IA générative comme ChatGPT dans la science et le milieu universitaire.
ChatGPT (Generative Pretrained Transformer) a été développé avec une technique appelée Reinforcement Learning from Human Feedback pour former le modèle de langage, lui permettant d’être très conversationnel. Néanmoins, comme l’indique le site Web, “ChatGPT écrit parfois des réponses plausibles mais incorrectes ou absurdes”. Plusieurs exemples montrent des erreurs flagrantes qu’il peut commettre, notamment en faisant référence à une étude scientifique qui n’existe pas.
De nombreuses préoccupations concernent la façon dont ChatGPT va changer l’éducation. Il peut certainement écrire des essais sur une gamme de sujets. Je lui ai donné à la fois un examen et un projet final que j’avais assigné aux étudiants d’un cours que j’enseignais sur le déni scientifique à l’Université George Washington. Il a bien réussi à trouver des réponses factuelles, mais l’écriture savante a encore un long chemin à parcourir. Au contraire, les implications pour l’éducation peuvent pousser les universitaires à repenser leurs cours de manière innovante et à donner des missions qui ne sont pas facilement résolues par l’IA. Cela pourrait être pour le mieux.
Plus inquiétants sont les effets de ChatGPT sur la rédaction d’articles scientifiques. Dans une étude récente, des résumés créés par ChatGPT ont été soumis à des examinateurs universitaires, qui n’ont détecté que 63 % de ces contrefaçons. C’est beaucoup de texte généré par l’IA qui pourrait bientôt se retrouver dans la littérature.
La plupart des cas d’inconduite scientifique que le La science dont traitent les revues se produisent en raison d’une quantité insuffisante d’attention humaine. Des raccourcis sont pris en utilisant des programmes de manipulation d’images tels que Photoshop ou en copiant du texte à partir d’autres sources. Les images modifiées et le texte copié peuvent passer inaperçus car ils sont trop peu examinés par chacun des auteurs. De notre côté, des erreurs se produisent lorsque les éditeurs et les réviseurs n’écoutent pas leur sceptique intérieur ou lorsque nous ne parvenons pas à nous concentrer sur les détails. À une époque où la confiance dans la science s’érode, il est important que les scientifiques s’engagent à nouveau à porter une attention particulière et méticuleuse aux détails.
Le dossier scientifique est finalement l’un des efforts humains de lutte avec des questions importantes. Les machines jouent un rôle important, mais en tant qu’outils pour les personnes qui posent les hypothèses, conçoivent les expériences et donnent un sens aux résultats. En fin de compte, le produit doit provenir et être exprimé par le merveilleux ordinateur dans nos têtes.
