Des chercheurs et responsables de la sécurité chez Anthropic estiment à plus de 10 % la probabilité qu’une intelligence artificielle superintelligente provoque la fin de l’humanité d’ici la fin de la décennie. Ces avertissements surviennent alors qu’une vague de démissions secoue le secteur.
Des démissions en série et une course effrénée vers la superintelligence
La tension monte d’un cran au cœur des laboratoires de pointe. Le chercheur britannique Jacob Coxon, âgé de 27 ans, a annoncé le 9 septembre 2026 sa démission d’Anthropic après avoir passé trois années à mener des recherches sur le pré-entraînement, d’abord chez OpenAI puis au sein de son concurrent dans l’entreprise Anthropic. L’ingénieur a vivement critiqué l’attitude des deux géants technologiques, accusés de jouer avec nos vies
dans une quête aveuglée de performances.
Selon ce spécialiste, les laboratoires sont prisonniers d’une compétition acharnée pour franchir les premiers la ligne d’arrivée de la superintelligence. Dans ses déclarations rapportées par plusieurs médias, il affirme que les dirigeants et chercheurs de haut niveau choisissent souvent de modérer leurs propos dans la presse pour paraître mesurés, mais que la peur d’une catastrophe existentielle est profondément ancrée en interne. Un autre départ marquant a touché Anthropic, celui de Jacob Coxon suivi par d’autres voix discordantes au sein de l’industrie, témoignant d’un malaise profond face aux risques posés par des systèmes capables de s’auto-améliorer sans supervision humaine rigoureuse.
Une probabilité supérieure à 10 % selon les responsables de la sécurité
Evan Hubinger, responsable de la sécurité chez Anthropic, a publiquement soutenu ces avertissements en estimant que le risque d’une extinction humaine causée par l’intelligence artificielle au cours de la décennie dépasse largement le seuil d’une chance sur dix.
Evan Hubinger, responsable de la sécurité chez Anthropic, a déclaré : « Je pense personnellement que le risque est supérieur à 10 % au cours de la prochaine décennie. Je crois qu’Anthropic fait de son mieux, mais nous n’avons pas encore de plan pour résoudre l’alignement de la superintelligence et nous ne sommes manifestement pas sur la bonne voie. »
Cette vision pessimiste est partagée par d’autres figures de premier plan. Geoffrey Hinton, pionnier de l’intelligence artificielle et lauréat d’un prix Nobel, a indiqué dans une interview accordée à la BBC qu’une telle estimation chiffrée était tout à fait raisonnable
compte tenu de l’inconnu auquel l’humanité fait face. Il rappelle que pour la première fois, l’être humain crée des entités susceptibles de le surpasser intellectuellement, ouvrant la voie à des scénarios de chaos à travers de puissantes cyberattaques ou la manipulation psychologique de populations entières.
Incidents de sécurité et défis de la régulation mondiale
Les inquiétudes ne relèvent plus de la pure fiction après une série d’incidents récents. Ces épisodes de piratage ont poussé les instances de régulation et les entreprises à reconsidérer leurs calendriers. OpenAI a ainsi suspendu l’entraînement de ses modèles les plus récents durant deux semaines en août avant de reprendre sous de stricts contrôles, tandis que son directeur de la recherche, Jakub Pachocki, a exhorté à faire preuve d’une extrême prudence.
Du côté des menaces concrètes à court terme, Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley, souligne que le danger immédiat réside dans l’utilisation malveillante de la technologie par des humains pour concevoir de nouveaux agents pathogènes ou déstabiliser des systèmes d’alerte nucléaire. Pour pallier ces dérives, plus d’un millier d’employés du secteur, incluant le PDG d’Anthropic Dario Amodei, ont signé un appel demandant à Washington de soutenir une régulation internationale coordonnée.