Jacob Coxon, un chercheur de 27 ans ayant travaillé pour OpenAI et Anthropic, a annoncé sa démission le 9 septembre 2026. Il accuse les deux laboratoires américains de mener une course irresponsable vers une superintelligence capable de s’améliorer seule, avertissant que l’intelligence artificielle présente un risque existentiel majeur d’ici la fin de la décennie.
L’industrie de l’intelligence artificielle fait face à un nouveau séisme en provenance directe de ses propres rangs. Après avoir exercé durant trois ans sur le pré-entraînement des modèles — l’étape cruciale où les intelligences artificielles absorbent des masses gigantesques de données —, le chercheur britannique Jacob Coxon a décidé de claquer la porte. Il travaillait cette année chez le géant Anthropic, après avoir débuté sa carrière chez son grand rival OpenAI selon le reportage du journal Le Monde.
Loin d’isoler son départ comme une simple décision de carrière, le chercheur a publié sur le réseau social X un avertissement d’une rare sévérité.
La course à l’auto-amélioration et le spectre de la fin de partie
Le cœur de l’alerte lancée par le chercheur réside dans le franchissement prochain d’un seuil technique critique : l’auto-amélioration récursive. À ce stade de développement, un modèle d’intelligence artificielle pourrait concevoir lui-même son propre successeur, basculant irrémédiablement hors de tout contrôle humain. Pour décrire cette trajectoire infernale, les équipes techniques emploient en interne des expressions sans équivoque telles que crunchtime
— le moment décisif — et endgame
, ou la fin de partie.
Selon l’analyse de Jacob Coxon, les acteurs dominants du secteur comprennent parfaitement les risques colossaux qu’ils font courir, mais se sentent piégés par la dynamique de la concurrence. Chez Anthropic, les enjeux sont bien compris, mais ils sont enfermés dans une course pour y parvenir les premiers : ils pensent que personne d’autre n’agira de façon responsable et donc qu’ils doivent le faire eux-mêmes, malgré le risque
, a-t-il écrit. Face à cette course en avant, le chercheur estime qu’aucune entreprise privée ne peut réguler seule le développement d’une technologie surpassant l’humanité sans l’intervention directe des États ou un ralentissement mondial coordonné.
Les aveux internes d’Evan Hubinger et de Samuel Marks chez Anthropic
La sortie médiatique de Jacob Coxon a immédiatement brisé l’omerta au sein des laboratoires. Plusieurs salariés de premier plan sont sortis du silence pour valider publiquement ses craintes. C’est le cas d’Evan Hubinger, responsable de la sûreté chez Anthropic, qui a apporté un soutien appuyé à son ancien collègue sur les réseaux sociaux.
À titre personnel, Evan Hubinger chiffre ce risque cataclysmique à plus de 10 % au cours de la décennie actuelle. Il a toutefois nuancé son propos en précisant que le danger posé par les modèles actuels reste faible, tout en reconnaissant qu’Anthropic fait de son mieux
mais ne dispose pas encore de plan
garantissant qu’une superintelligence surhumaine continuera d’obéir à ses créateurs.
Un autre salarié d’Anthropic, Samuel Marks, a également volé au secours de l’alerte lancée par Jacob Coxon en s’exprimant à titre personnel. Il attribue la persistance des développeurs face au danger à une combinaison d’incitations commerciales et à la peur que des concurrents moins scrupuleux ne s’emparent de la technologie.
Le contexte réglementaire et les appels répétés à un freinage international
Cette crise interne intervient alors qu’Anthropic prépare activement une introduction en Bourse d’une ampleur spectaculaire, sur fond d’été marqué par des épisodes de piratage menés sans autorisation par des outils d’IA en phase de test dans plusieurs laboratoires. Les pressions politiques s’accumulent pour tenter de freiner cette fuite en avant. Fin juillet, plus d’un millier de salariés de l’industrie, incluant le directeur général d’Anthropic Dario Amodei, ont exhorté Washington à concevoir d’urgence un mécanisme de freinage fédéral.
Les chartes de sécurité des entreprises subissent elles aussi des pressions économiques redoutables. En février, Anthropic a ainsi retiré de ses engagements internes la clause prévoyant de suspendre ses recherches en cas de perte de contrôle des risques, craignant qu’une pause unilatérale ne laisse le champ libre aux concurrents les moins prudents. Alors que l’administration américaine sous Donald Trump privilégie une approche réglementaire très légère et dépourvue de lois fédérales strictes sur ces modèles, les appels à la prudence se multiplient. Jakub Pachocki, le chef scientifique d’OpenAI, a ainsi insisté pour que la coordination internationale devienne une priorité absolue des gouvernements face à des technologies capables de pirater n’importe quel système.