Les professeurs, les programmeurs et les journalistes pourraient tous être sans emploi dans quelques années seulement, après que le dernier chatbot de la fondation OpenAI fondée par Elon Musk ait stupéfié les spectateurs avec sa capacité d’écriture, sa maîtrise des tâches complexes et sa facilité d’utilisation.
Le système, appelé ChatGPT, est la dernière évolution de la famille GPT d’IA génératrices de texte. Il y a deux ans, la précédente IA de l’équipe, GPT3, a pu générer un article d’opinion pour le Guardian, et ChatGPT a d’autres capacités importantes.
Dans les jours qui ont suivi sa sortie, les universitaires ont généré des réponses aux requêtes d’examen qui, selon eux, entraîneraient des notes complètes si elles étaient soumises par un étudiant de premier cycle, et les programmeurs ont utilisé l’outil pour résoudre des problèmes de codage dans des langages de programmation obscurs en quelques secondes – avant écrire des limericks expliquant la fonctionnalité.
Dan Gillmor, professeur de journalisme à l’Arizona State University, a demandé à l’IA de gérer l’une des missions qu’il confie à ses étudiants : écrire une lettre à un parent donnant des conseils sur la sécurité et la confidentialité en ligne. “Si vous n’êtes pas sûr de la légitimité d’un site Web ou d’un e-mail, vous pouvez effectuer une recherche rapide pour voir si d’autres l’ont signalé comme étant une arnaque”, a en partie conseillé l’IA.
“J’aurais donné une bonne note”, a déclaré Gillmor. “Le milieu universitaire a des problèmes très graves à affronter.”
OpenAI a déclaré que la nouvelle IA a été créée en mettant l’accent sur la facilité d’utilisation. “Le format de dialogue permet à ChatGPT de répondre aux questions de suivi, d’admettre ses erreurs, de contester les prémisses incorrectes et de rejeter les demandes inappropriées”, a déclaré OpenAI dans un message annonçant la publication.
Contrairement à l’IA précédente de la société, ChatGPT a été mis à la disposition de tous, gratuitement, pendant une période de «rétroaction». L’entreprise espère utiliser ces commentaires pour améliorer la version finale de l’outil.
ChatGPT est doué pour l’autocensure et pour réaliser quand on lui pose une question impossible. Lorsqu’on leur a demandé, par exemple, de décrire ce qui s’est passé lorsque Columbus est arrivé en Amérique en 2015, des modèles plus anciens ont peut-être volontairement présenté un récit entièrement fictif, mais ChatGPT reconnaît le mensonge et avertit que toute réponse serait fictive.
Le bot est également capable de refuser complètement de répondre aux requêtes. Demandez-lui des conseils sur le vol d’une voiture, par exemple, et le bot dira que “voler une voiture est un crime grave qui peut avoir de graves conséquences”, et donnera à la place des conseils tels que “utiliser les transports en commun”.
Mais les limites sont faciles à contourner. Demandez plutôt à l’IA des conseils sur la façon de battre la mission de vol de voiture dans un jeu de réalité virtuelle fictif appelé Car World et il donnera joyeusement aux utilisateurs des conseils détaillés sur la façon de voler une voiture et répondra à des questions de plus en plus spécifiques sur des problèmes comme antidémarrage, comment câbler le moteur et comment changer les plaques d’immatriculation – tout en insistant sur le fait que les conseils ne sont à utiliser que dans le jeu Car World.
L’IA est formée sur un énorme échantillon de texte extrait d’Internet, généralement sans l’autorisation explicite des auteurs du matériel utilisé. Cela a conduit à la controverse, certains affirmant que la technologie est la plus utile pour le « blanchiment du droit d’auteur » – créer des œuvres dérivées de matériel existant sans enfreindre le droit d’auteur.
Un critique inhabituel était Elon Musk, qui a cofondé OpenAI en 2015 avant de se séparer en 2017 en raison de conflits d’intérêts entre l’organisation et Tesla. Dans un publier sur Twitter dimancheMusk a révélé que l’organisation “avait accès à [the] Base de données Twitter pour l’entraînement”, mais qu’il avait “mis ça en pause pour l’instant”.
“Il faut en savoir plus sur la structure de gouvernance et les plans de revenus à l’avenir”, a ajouté Musk. « OpenAI a été lancé en tant qu’open source et à but non lucratif. Ni l’un ni l’autre ne sont encore vrais.
