Publié le 22 octobre 2025 07:51:00. Une pétition signée par des personnalités de premier plan, dont le prix Nobel Geoffrey Hinton, appelle à une pause dans le développement de la superintelligence artificielle (ASI) jusqu’à ce que des garanties de sécurité et un large consensus public soient établis, face aux risques que représente une technologie potentiellement incontrôlable.
- Des experts en intelligence artificielle, des scientifiques et des figures publiques demandent un moratoire sur le développement de l’ASI.
- L’initiative, portée par le Future of Life Institute, souligne la rapidité des progrès de l’IA et le manque de compréhension publique.
- Des inquiétudes croissantes existent quant au potentiel de l’IA à échapper au contrôle humain et à menacer l’humanité.
L’essor fulgurant de l’intelligence artificielle suscite de vives inquiétudes au sein de la communauté scientifique et au-delà. Face à une course effrénée pour développer des systèmes toujours plus performants, une pétition publique a été lancée, rassemblant des voix influentes qui appellent à la prudence. L’objectif : freiner le développement de la superintelligence artificielle jusqu’à ce que des garde-fous solides soient mis en place.
L’initiative est menée par le Future of Life Institute, une organisation qui alerte depuis plus d’une décennie sur les dangers potentiels d’une IA mal encadrée. Son directeur, Anthony Aguirre, physicien à l’Université de Californie à Santa Cruz, met en garde contre une progression technologique qui dépasse la capacité du grand public à la comprendre. La pétition ne vise aucune organisation ou gouvernement en particulier, mais appelle à une réflexion globale.
Parmi les signataires de cette déclaration, on retrouve des lauréats du prix Nobel, à l’instar de Geoffrey Hinton, considéré comme l’un des pères fondateurs de l’IA. Geoffrey Hinton, qui a remporté le prix Nobel de physique en 2024 avec John Hopfield, s’est montré très critique quant au manque de réglementation dans ce secteur. Il avait déjà exprimé ses préoccupations quant aux risques liés à une IA non contrôlée.
D’autres figures de proue de la recherche en intelligence artificielle soutiennent également cette pétition, comme Yoshua Bengio, professeur à l’Université de Montréal. L’année dernière, il avait plaidé devant le Congrès américain pour une coopération internationale afin de réguler le développement de l’IA. Stuart Russell, professeur d’informatique à l’Université de Californie à Berkeley, a également mis en garde contre la complexité de l’IA, qui la rend plus difficile à comprendre et à maîtriser que d’autres technologies puissantes.
La liste des signataires s’étend au-delà du monde scientifique. On y trouve d’anciens hauts responsables militaires américains, tels que Mike Mullen, ancien président des chefs d’état-major interarmées, ainsi que Steve Bannon, figure de proue du mouvement MAGA et ancien conseiller de Donald Trump. Même le prince Harry du Royaume-Uni et son épouse Meghan Markle ont apposé leur signature à cette pétition.
La course à la domination dans le domaine de l’IA ne se limite pas aux entreprises américaines. La Chine est également un acteur majeur, et l’Europe a tenté de prendre les devants en proposant une législation. Cependant, des critiques estiment que cette législation européenne pourrait s’avérer insuffisante.
Le Future of Life Institute, fondé en 2014 avec le soutien d’Elon Musk via Tesla, a déjà par le passé lancé des appels à la prudence concernant l’IA. Elon Musk, qui participe désormais à la course à l’IA avec son chatbot Grok, avait lui-même signé des pétitions antérieures appelant à ralentir le développement de cette technologie.
L’organisation indique que son principal donateur actuel est Vitalik Buterin, co-fondateur de la blockchain Ethereum. Elle précise ne pas accepter de dons provenant de grandes entreprises technologiques ou d’entreprises développant l’intelligence artificielle générale.
Qu’est-ce que la superintelligence artificielle ?
La superintelligence artificielle (ASI) représente le seuil où l’intelligence artificielle dépasse les capacités cognitives humaines, avec des fonctions de pensée et de raisonnement très développées. Il s’agit pour l’instant d’une hypothèse, certains chercheurs la situant dans un avenir lointain, d’autres la jugeant plus proche qu’on ne le pense, et d’autres encore la considérant comme impossible.
À l’heure actuelle, la majorité des experts s’accordent sur l’existence de l’intelligence artificielle étroite (ANI), qui excelle dans des tâches spécifiques telles que la traduction ou la création d’images à partir de texte. Cette ANI repose sur des algorithmes préprogrammés et nécessite une intervention humaine pour fonctionner. Entre l’intelligence artificielle actuelle et la superintelligence se situerait l’intelligence artificielle générale (AGI), plus puissante et capable d’apprendre et de raisonner dans différents domaines, en établissant des liens entre eux.
À lire aussi
