L’éviction mystérieuse de l’enfant affiche de l’IA, Sam Altman

“Nous pouvons affirmer avec certitude que la décision du conseil d’administration n’a pas été prise en réponse à des malversations ou à quoi que ce soit lié à nos pratiques financières, commerciales, de sûreté ou de sécurité/confidentialité”, a-t-il écrit. “Il s’agissait d’une rupture de communication entre Sam et le conseil d’administration.”

Il y aura de nombreuses intrigues de palais dans les prochains jours, à mesure que l’histoire complète émergera. Mais certaines choses sont claires.

Premièrement, l’éviction n’a été possible qu’en raison de la structure de gouvernance d’entreprise inhabituelle d’OpenAI. OpenAI a débuté en 2015 en tant qu’organisation à but non lucratif et a créé en 2019 une filiale à bénéfices plafonnés – un nouvel arrangement dans lequel les rendements des investisseurs sont limités à un certain montant supérieur à leur investissement initial.

Mais il a conservé la mission de l’organisation à but non lucratif et a donné au conseil d’administration de l’organisation à but non lucratif le pouvoir de diriger les activités de l’entité à but lucratif plafonné, y compris de licencier le PDG. Contrairement à certains autres fondateurs du secteur technologique, qui gardent le contrôle de leurs entreprises via des structures d’actions à deux classes, Altman ne possède directement aucune action dans OpenAI.

Il y a plusieurs autres bizarreries dans le tableau d’OpenAI. Elle est petite (six membres avant vendredi, et quatre sans Altman et Brockman) et comprend plusieurs experts en IA qui ne détiennent aucune action dans l’entreprise. Ses administrateurs n’ont pas la responsabilité de maximiser la valeur pour les actionnaires, comme le font la plupart des conseils d’administration, mais sont plutôt tenus à l’obligation fiduciaire de créer une « AGI sûre » – une intelligence artificielle générale – « qui soit largement bénéfique ».

Au moins deux membres du conseil d’administration, Tasha McCauley et Helen Toner, ont des liens avec le mouvement Effective Altruism, un groupe d’inspiration utilitariste qui a fait pression en faveur de la recherche sur la sécurité de l’IA et a sonné l’alarme selon laquelle un système d’IA puissant pourrait un jour conduire à l’extinction humaine. Un autre membre du conseil d’administration, Adam D’Angelo, est PDG de Quora, un site Web de questions et réponses.

Certains amis et alliés d’Altman ont accusé ces membres du conseil d’administration d’avoir fomenté un « coup d’État » vendredi. Mais on ne sait toujours pas quels membres du conseil d’administration ont voté pour évincer Altman ni quelles étaient leurs motivations.

Ce que nous savons également de l’éviction d’Altman, c’est qu’elle pourrait potentiellement bouleverser l’ensemble de l’industrie technologique. Altman était l’un des dirigeants les mieux connectés de la Silicon Valley, grâce à ses années passées à diriger l’accélérateur de startups Y Combinator. Ses relations ont permis à OpenAI de nouer des liens solides avec d’autres entreprises technologiques.

Microsoft, en particulier, a choisi OpenAI, investissant plus de 10 milliards de dollars (15,3 milliards de dollars) dans l’entreprise et fournissant une grande partie de l’infrastructure technique dont dépendent des produits comme ChatGPT. Ce mois-ci, le PDG de Microsoft, Satya Nadella, est apparu sur scène lors d’une conférence de développeurs avec Altman et a déclaré que ce partenariat avec vous avait été « tout simplement fantastique ».

En règle générale, des liens aussi étroits vous donneraient droit à une information concernant une expulsion soudaine du PDG. Mais les hauts dirigeants de Microsoft ont appris le licenciement d’Altman seulement une minute – oui, une minute – avant que la nouvelle ne soit rendue publique, selon Axios.

Vendredi, Nadella a rassuré ses clients sur le fait que l’accord de l’entreprise avec OpenAI restait intact, mais il est clair que l’entreprise voudra des réponses sur les raisons pour lesquelles l’un de ses partenaires stratégiques les plus importants a démis si brusquement son cadre supérieur.

Le sort d’OpenAI compte également pour les milliers de développeurs qui créent des produits d’IA sur la base de ses modèles de langage et comptent sur l’entreprise pour maintenir une infrastructure stable. Ces développeurs ne se tourneront peut-être pas vers un rival du jour au lendemain, mais si davantage d’employés d’OpenAI démissionnent, au moins trois chercheurs seniors d’OpenAI ont annoncé leur départ vendredi, selon L’information – ils pourraient être tentés de commencer à magasiner.

Enfin, la défenestration d’Altman alimentera presque certainement la guerre culturelle dans l’industrie de l’IA entre ceux qui pensent que l’IA devrait pouvoir évoluer plus rapidement et ceux qui pensent qu’elle devrait être ralentie pour éviter des dommages potentiellement catastrophiques.

Cet argument, parfois qualifié d’opposant les « accélérateurs » et les « catastrophistes », a éclaté ces derniers mois alors que les régulateurs ont commencé à encercler l’industrie de l’IA et que la technologie est devenue plus puissante. Certains éminents accélérateurs ont fait valoir que les grandes entreprises d’IA font pression pour des règles qui pourraient rendre plus difficile la concurrence des petites start-ups.

Ils ont reproché aux défenseurs de la sécurité du secteur d’avoir gonflé les risques de l’IA afin de s’enraciner.

Chargement

Les défenseurs de la sécurité, d’autre part, ont tiré la sonnette d’alarme sur le fait qu’OpenAI et d’autres sociétés agissent trop rapidement pour construire des systèmes d’IA puissants et ignorent les voix d’avertissement. Et certains sceptiques ont accusé ces entreprises de voler des œuvres protégées par le droit d’auteur d’artistes, d’écrivains et autres pour former leurs modèles.

Altman a toujours pris soin de chevaucher la frontière entre optimisme et inquiétude – indiquant clairement qu’il pensait que l’IA serait en fin de compte bénéfique à l’humanité, tout en reconnaissant qu’elle avait besoin de garde-fous et d’une conception réfléchie pour assurer sa sécurité.

Une certaine version de cet argument circule parmi le personnel d’OpenAI depuis des années. En 2020, un groupe d’employés d’OpenAI a démissionné parce qu’il craignait que l’entreprise devienne trop commerciale et mette de côté la recherche en matière de sécurité au profit d’accords lucratifs. (Ils ont ensuite lancé le laboratoire d’IA rival Anthropic.) Et plusieurs employés actuels et anciens d’OpenAI m’ont dit que certains membres du personnel pensaient qu’Altman et Brockman pouvaient être trop agressifs lorsqu’il s’agissait de lancer de nouveaux produits.

Rien de tout cela n’est nécessairement lié à la raison pour laquelle Altman a été expulsé. Mais c’est certainement un signe d’une bataille à venir.

Lors de notre entretien de mercredi, Altman a déclaré qu’il se considérait comme un centriste dans le débat sur l’IA.

« Je crois que ce sera la technologie la plus importante et la plus bénéfique que l’humanité ait jamais inventée. Et je crois aussi que si nous n’y prêtons pas attention, cela peut être assez désastreux et nous devons donc y faire face avec prudence.»

Il a ajouté : « Je pense que vous voulez que le PDG de cette entreprise se situe quelque part au milieu, ce que je pense être le cas. »

Cet article a été initialement publié dans Le New York Times.