L’éviction d’Altman montre que l’organisation avait pour objectif d’aligner l’IA superintelligente sur l’humanité, sans parvenir à aligner les valeurs même de ses propres membres du conseil d’administration et de sa direction. L’ajout d’une composante à but lucratif au projet à but non lucratif en a fait une centrale d’IA. Le lancement de produits était censé générer non seulement des bénéfices, mais également des opportunités d’apprendre à mieux contrôler et développer une IA bénéfique. Il est désormais difficile de savoir si les dirigeants actuels pensent que cela peut être réalisé sans rompre la promesse initiale du projet de créer AGI en toute sécurité.
Murati est confronté au défi de convaincre le personnel et les bailleurs de fonds d’OpenAI qu’il a toujours une philosophie viable pour le développement de l’IA. Elle doit également nourrir la soif de liquidités de l’entreprise pour exploiter la vaste infrastructure derrière des projets comme ChatGPT. Au moment où il a eu une glissade rose, Altman était aurait cherché des milliards de nouveaux investissements, dans le cadre d’un cycle de financement dirigé par Thrive Capital. L’entreprise est sans doute moins attractive pour les bailleurs de fonds qu’elle ne l’était il y a seulement 24 heures. (Le PDG de Thrive, Joshua Kushner, n’a pas répondu à un e-mail.)
De plus, toute personne dont la plaque signalétique de PDG comprend l’étiquette « intérimaire » sera confrontée à des obstacles supplémentaires dans tout ce qu’elle entreprendra. Plus tôt OpenAI nommera un leader permanent, mieux ce sera.
Recommencement
Quel que soit le nouveau leader d’OpenAI, il semble prêt à hériter d’une équipe déchirée selon qu’elle se tient aux côtés des dirigeants actuels, Sutskever et Murati, ou des anciens patrons, Altman et Brockman. L’un des trois chercheurs qui auraient démissionné à la suite du putsch était le directeur de recherche Jakub Pachocki, un co-inventeur de GPT-4– une perte cruciale, et nous pouvons nous attendre à ce que d’autres suivent.
OpenAI pourrait désormais être gravement désavantagé dans la course acharnée aux talents en IA. Les meilleurs chercheurs bénéficient de paiements de plusieurs millions de dollars, mais pour les plus passionnés, l’argent est une considération secondaire par rapport à la question de savoir comment développer et déployer une IA plus puissante. Si OpenAI est considéré comme un lieu rempli d’intrigues de palais qui empêchent de décider de la meilleure façon de créer et de diffuser l’invention la plus importante de l’humanité, les meilleurs talents seront réticents à s’engager. Les chercheurs d’élite pourraient plutôt se tourner vers Anthropic, un développeur d’IA lancé par d’anciens employés d’OpenAI en 2021 – ou peut-être vers tout autre nouveau projet lancé par Altman et Brockman.
La trajectoire d’Altman jusqu’à présent a été celle d’un héros classique au sens de Joseph Campbell. Depuis le moment où je l’ai rencontré pour la première fois, lorsqu’il est venu chez moi Semaine d’actualités en 2007 en tant que PDG d’une startup appelée Loopt, il dégageait une passion brûlante pour relever les plus grands défis technologiques et aussi une humilité personnelle frappante. Lorsque je l’ai accompagné à Londres cette année lors de sa tournée éclair visant à promouvoir une IA « humainement positive » – tout en recommandant également qu’elle soit réglementée pour éviter les catastrophes – je l’ai vu s’adresser à la foule, poser pour des selfies et même engager quelques manifestants pour l’entendre. faire part de leurs préoccupations. Mais j’ai aussi senti que la tâche était stressante, déclenchant peut-être une de ses migraines périodiques, comme celle qu’il a combattue lors de son témoignage devant le Sénat.
La semaine dernière encore, Altman semblait avoir maîtrisé les défis prodigieux liés à son nouveau pouvoir et à sa notoriété. À Journée des développeurs d’OpenAI le 6 novembre, il était confiant et méticuleusement répété lorsqu’il présentait un plein de nouveaux produits, revendiquant le perchoir ultime de la technosphère : un showman dévoilant des avancées hallucinantes à la manière de Steve Jobs. Il semblait qu’Altman se sentait enfin chez lui sous les projecteurs. Mais ensuite les lumières se sont éteintes. Sam Altman devra créer AGI ailleurs. OpenAI est peut-être encore en chasse, mais seulement après avoir ramassé les morceaux.
