Les gagnants et les perdants du Wild Weekend d’OpenAI

Pendant un certain temps ce week-end, il semblait que Sam Altman pourrait revenir en héros conquérant au sein d’OpenAI, la société dont le conseil d’administration l’avait licencié vendredi de son poste de directeur général.

Cela aurait été un autre rebondissement choquant dans une saga qui en était déjà pleine. Et M. Altman disposait de beaucoup d’influence. Les employés d’OpenAI s’étaient ralliés à lui depuis son licenciement, et les investisseurs d’OpenAI poussaient le conseil d’administration à le ramener. Des milliards de dollars – et peut-être la trajectoire de l’ensemble du secteur de l’IA – dépendaient du sort de la décision du conseil d’administration, et beaucoup s’attendaient à ce qu’il cède sous la pression et fasse marche arrière.

Au lieu de cela, le conseil d’administration a tenu bon, rejeter le retour de M. Altman et affirmant dans une note adressée tard dans la soirée aux employés dimanche que sa destitution était “nécessaire pour préserver la capacité du conseil d’administration à s’acquitter de ses responsabilités et à faire avancer la mission de cette organisation”. Il a nommé Emmett Shear, l’ancien patron de Twitch, au poste de chef par intérim.

Quelques heures plus tard, Satya Nadella, le directeur général de Microsoft, a annoncé que M. Altman et son principal lieutenant, Greg Brockman, rejoindraient le géant de la technologie pour diriger une nouvelle division de recherche sur l’IA.

La saga OpenAI est loin d’être terminée. Les choses évoluent rapidement et il y a encore beaucoup de choses que nous ne savons pas, y compris la raison pour laquelle le conseil d’administration a décidé de licencier M. Altman en premier lieu. (Dans la note de dimanche, le conseil d’administration a déclaré qu’il n’y avait eu aucun incident spécifique ayant conduit au licenciement, mais plutôt que M. Altman avait simplement perdu confiance.)

Mais même sans en savoir grand-chose sur l’incident déclencheur, nous pouvons commencer à évaluer les dégâts.

Perdant : OpenAI

Le perdant le plus évident dans tout cela est OpenAI lui-même.

Avant vendredi, l’entreprise était le nom le plus en vogue dans le domaine de la technologie, avec un leader célèbre, un produit connu dans ChatGPT et une rangée de meurtriers de talents en IA qui faisaient l’envie des géants de la Silicon Valley. L’entreprise était en plein milieu d’une offre publique d’achat qui aurait permis aux employés d’encaisser leurs actions à une valorisation alléchante, et son modèle de langage d’IA de pointe, GPT-4, était le meilleur de sa catégorie. chaos. Ses principaux dirigeants sont partis. Le moral est brisé. L’offre publique d’achat pourrait s’effondrer. Le nouveau directeur général a déclaré qu’il souhaitait ralentir l’IA. Et l’entreprise reste fortement dépendante de Microsoft, dont l’énorme puissance de calcul a besoin pour faire fonctionner ses modèles – et qui, à partir de lundi, aura en son sein une mini-OpenAI, dirigée par M. Altman et composée d’anciens employés d’OpenAI. .

Le conseil d’administration d’OpenAI peut être satisfait de ce résultat – après tout, il l’a choisi, même après avoir eu la possibilité de faire marche arrière. Mais ils ont l’air idiots de ne pas expliquer pourquoi ils ont licencié M. Altman, et jusqu’à ce qu’ils partagent plus d’informations, il est difficile d’imaginer que la base s’aligne.

Gagnant : Microsoft

Aucun week-end n’a connu un revirement plus important que celui de M. Nadella.

Vendredi. Lorsque M. Altman a été licencié, il semblait que M. Nadella risquait de perdre l’un de ses alliés les plus puissants. Microsoft a investi 13 milliards de dollars dans OpenAI et, sous la direction de M. Altman, l’entreprise est devenue un partenaire clé de Microsoft. Sa technologie constitue l’épine dorsale de nombreux services d’IA, tels que la suite de produits Copilot AI de la société, sur lesquels Microsoft parie l’avenir de son activité.

M. Nadella aurait clairement préféré voir M. Altman réintégré. Mais lorsqu’il s’est avéré que ce n’était pas le cas, il a fait ce qu’il y avait de mieux : intervenir pour offrir des emplois à M. Altman, M. Brockman et à leurs loyalistes.

Stratégiquement, c’était un coup de maître. Désormais, Microsoft pourra continuer à utiliser les modèles d’OpenAI pour alimenter ses produits à court terme, tout en donnant à une nouvelle équipe dirigée par Altman l’argent et la puissance de calcul dont elle a besoin pour construire de nouveaux modèles appartenant à Microsoft à long terme. Il recrutera un groupe de chercheurs talentueux en IA d’OpenAI, et Microsoft possède désormais 100 % d’un nouveau laboratoire d’IA que n’importe quel capital-risqueur de la Silicon Valley aurait voulu financer.

Gagnants : les Doomers de l’IA et les altruistes efficaces

Pendant des années, une communauté de chercheurs et d’activistes en IA – dont beaucoup sont affiliés au altruisme efficace Ce mouvement, dont les adeptes pensent que la raison et les données devraient déterminer comment faire le plus de bien, a averti que les systèmes d’IA devenaient trop puissants et qu’une IA incontrôlable pourrait constituer une menace existentielle pour l’humanité.

Les personnes ayant ces peurs – parfois qualifiées de « catastrophiques » ou de « décélérateurs » par leurs détracteurs – étaient autrefois considérées comme marginales. Mais au cours des dernières années, ils se sont progressivement ralliés au courant dominant, rassemblant des signatures sur lettres ouvertes et avertissant les régulateurs de prendre la sécurité de l’IA au sérieux. Et vendredi, ils ont destitué le PDG du leader mondial de l’IA.

Ilya Sutskever, le scientifique en chef d’OpenAI, qui a mené le coup d’État contre M. Altman, n’est pas un altruiste efficace, mais il semble avoir été motivé par des craintes similaires. Et deux des membres du conseil d’administration qui ont soutenu le coup d’État, Tasha McCauley et Helen Toner, ont des liens avec des groupes altruistes efficaces.

Si OpenAI finit par être irrémédiablement lésé par le licenciement de M. Altman, les gens accuseront le conseil d’administration d’avoir détruit l’une des jeunes start-up les plus prometteuses de la Silicon Valley et détruit des milliards de dollars de valeur actionnariale.

Mais le conseil d’administration a clairement réussi selon ses propres conditions. Ils craignaient que M. Altman aille trop vite pour construire des systèmes d’IA puissants et potentiellement dangereux, et ils l’ont arrêté. C’est une victoire pour la cause, même si cela se fait aux dépens de l’entreprise.

Perdants : investisseurs

Personne n’était plus favorable au retour de M. Altman à OpenAI que les investisseurs et les investisseurs en capital-risque qui l’ont soutenu et qui risquaient de perdre leur argent s’il partait.

Beaucoup de ces investisseurs sont des techno-optimistes qui croient que l’IA sera un bien absolu pour la société, et ils ont adoré la vision essentiellement optimiste de M. Altman sur l’avenir de l’IA. (Ils aimaient aussi qu’il leur rapporte beaucoup d’argent.)

Ces investisseurs détiennent désormais des participations dans une entreprise dotée d’un directeur général par intérim, d’un personnel en révolte et d’une voie à suivre incertaine. Pire encore, la seule façon pour eux d’investir dans la nouvelle société de M. Altman est d’acheter des actions Microsoft.

Pas clair : les rivaux d’OpenAI

Il n’est pas encore clair si les sociétés concurrentes d’IA bénéficieront de l’éviction de M. Altman.

D’une part, des entreprises comme Google, Anthropic et Meta pourraient bénéficier d’une OpenAI affaiblie si elle leur permet de rattraper les progrès de l’entreprise en matière d’IA, ou de siphonner les employés clés. (Recruteurs pas perdu de temps essayant de débaucher les travailleurs mécontents d’OpenAI vendredi.)

Mais cela signifie également qu’ils seront en concurrence avec un Microsoft plus fort. Et cela signifie que les nouveaux efforts de M. Altman en matière d’IA ne seront pas limités par la même structure de gouvernance alambiquée à but non lucratif que l’était OpenAI, ce qui signifie qu’il pourrait être en mesure d’avancer encore plus rapidement.