Anthropic a proposé, ce jeudi 4 juin 2026, la création d’un mécanisme de coordination mondiale pour ralentir ou suspendre temporairement le développement de l’intelligence artificielle de pointe. L’entreprise souhaite ainsi permettre aux structures sociétales et à la recherche sur l’alignement de s’adapter face aux risques de perte de contrôle technologique.
Le diagnostic posé par l’entreprise est sans appel : la course à la performance, alimentée par des investissements massifs, a créé un décalage dangereux entre la puissance technique et la capacité humaine à la réguler. Dans un texte publié par l’ Anthropic Institute, son centre de réflexion, la société plaide pour une approche concertée afin d’éviter qu’un acteur ne profite d’un ralentissement global pour prendre un avantage décisif.
L’alerte sur l’auto-amélioration récursive
Au cœur de l’inquiétude d’Anthropic se trouve le concept d’ « auto-amélioration récursive ». Ce stade théorique correspond au moment où des systèmes d’IA deviennent capables d’entraîner et de concevoir leurs propres successeurs, réduisant ainsi drastiquement l’intervention humaine dans le processus de développement.
Pour illustrer l’imminence de ce basculement, l’entreprise a révélé une donnée interne frappante : en mai, plus de 80 % du code intégré à sa base de code avait été rédigé par Claude, son propre modèle d’IA, selon Boursorama. Si cette tendance se poursuit, la capacité des humains à surveiller et à façonner le comportement de ces systèmes pourrait s’effondrer.
« Nous pensons qu’il serait bon pour le monde d’avoir la possibilité de ralentir ou de suspendre temporairement le développement de l’IA de pointe, afin de permettre aux structures sociétales et à la recherche sur l’alignement de suivre le rythme des progrès de la technologie » Anthropic, via l’Anthropic Institute
L’entreprise reconnaît que ce point de rupture n’est pas encore garanti, mais elle avertit qu’une telle évolution pourrait mener à une « perte de contrôle ». Paradoxalement, elle voit dans cette avancée autant un levier majeur pour la médecine et l’économie qu’un risque existentiel.
Le modèle du traité FNI et la difficulté de la surveillance
Pour sortir de l’impasse concurrentielle, Anthropic suggère de s’inspirer du traité sur les forces nucléaires à portée intermédiaire (FNI). L’idée est d’établir un cadre vérifiable où les laboratoires dotés de ressources importantes s’entendent sur des conditions précises pour déclencher ou lever une pause.
Cependant, la comparaison avec le nucléaire souligne surtout l’urgence. Si le cadre du FNI a mis des décennies à s’installer, l’IA évolue à une vitesse bien supérieure. Surtout, l’entreprise souligne que le développement logiciel est « bien plus facile à dissimuler que des silos de missiles », rendant la vérification technique extrêmement complexe.
Un ralentissement unilatéral est jugé contre-productif. Selon l’entreprise, si une seule société s’arrête alors que des acteurs moins prudents continuent, cela ne ferait que déplacer le leadership technologique sans améliorer la sécurité globale. Seul un accord coordonné peut offrir une réelle protection.
Géopolitique et la « pédale de frein » manquante
L’obstacle majeur à cette coordination reste la tension entre les États-Unis et la Chine. De nombreux dirigeants technologiques et responsables américains craignent qu’une pause n’offre un avantage stratégique décisif à DeepSeek ou à d’autres champions chinois.
Pourtant, des ouvertures existent. Donald Trump a récemment évoqué la possibilité d’une coopération avec la Chine sur la sûreté de l’IA lors d’un déplacement à Pékin.
« En ce moment, c’est comme si le secteur de l’IA avait une pédale d’accélérateur mais pas de pédale de frein » Jack Clark, cofondateur d’Anthropic, via la BBC (rapporté par Moov.mg)
Jack Clark a comparé l’état actuel du secteur au boom pétrolier du début du XXe siècle, soulignant la nécessité de règles claires pour instaurer la confiance du public et éviter que la sécurité mondiale ne dépende uniquement de la personnalité des dirigeants de quelques entreprises privées.
L’ambition financière face à l’éthique
Cette proposition de pause intervient dans un climat d’euphorie financière. Le secteur est marqué par des projets d’introductions en Bourse massifs, notamment celui de SpaceX, le groupe d’Elon Musk incluant xAI, qui s’annonce comme l’un des plus importants de l’histoire.
Anthropic elle-même n’est pas étrangère à cette dynamique. Sa valorisation a presque triplé en trois mois et l’entreprise a initié début juin les démarches pour sa propre entrée en Bourse. Ce contraste entre l’appel à la prudence et la recherche de croissance financière souligne la tension interne des laboratoires d’IA.
Pour transformer ces avertissements en actions, l’Anthropic Institute prévoit d’organiser dans les prochains mois des discussions avec des décideurs politiques, des chercheurs et des groupes de la société civile. L’objectif est de définir comment gérer les risques liés à l’auto-amélioration et d’améliorer les mécanismes de coordination mondiale.
L’enjeu est désormais de savoir si les concurrents directs, comme OpenAI et Google, accepteront de s’asseoir à la table des négociations pour installer cette « pédale de frein », ou si la pression géopolitique rendra toute coordination impossible.