Plus de 700 personnalités, scientifiques, chefs religieux et responsables politiques lancent un appel solennel à suspendre le développement de la superintelligence artificielle, craignant des conséquences imprévisibles pour l’humanité. Cette initiative, portée par le Future of Life Institute, intervient alors que certains experts estiment que cette technologie pourrait voir le jour dans un délai de deux ans.
Parmi les signataires de cette lettre ouverte, on retrouve des figures de premier plan telles que cinq lauréats du prix Nobel, les chercheurs en IA souvent qualifiés de « parrains de l’IA », Steve Wozniak, cofondateur d’Apple, ainsi que Steve Bannon, ancien conseiller du président Trump. Paolo Benanti, conseiller du pape, et le prince Harry et Meghan, duc et duchesse de Sussex, ont également apposé leur signature.
La lettre exhorte à une interdiction du développement de la superintelligence, définie comme un système capable de surpasser les capacités humaines dans tous les domaines, jusqu’à ce qu’un consensus scientifique large et une adhésion publique forte garantissent sa sécurité et son contrôle. « Nous appelons à une interdiction du développement de la superintelligence, qui ne soit pas levée avant un large consensus scientifique selon lequel cela sera effectué de manière sûre et contrôlable, et forte adhésion du public », indique le texte.
Cette nouvelle campagne fait suite à un appel similaire lancé en 2023 par le Future of Life Institute (FLI) pour une pause de six mois dans le développement des systèmes d’IA puissants, une initiative qui n’a pas atteint ses objectifs. Anthony Aguirre, directeur exécutif du FLI, souligne l’urgence de la situation : « Le temps presse », a-t-il déclaré au magazine TIME. Il estime que la seule manière d’empêcher les entreprises de se lancer dans la course à la superintelligence est de susciter une prise de conscience collective : « …la seule chose susceptible d’empêcher les sociétés d’IA de se tourner vers la superintelligence, dit-il, « est que la société à tous ses niveaux se rende compte que ce n’est pas réellement ce que nous voulons ».
Un sondage publié conjointement avec la lettre révèle que 64 % des Américains estiment que la superintelligence « ne devrait pas être développée tant qu’elle n’est pas prouvée sûre et contrôlable », tandis que seulement 5 % plaident pour un développement rapide. « C’est un petit nombre d’entreprises très riches qui construisent ces projets, et un très grand nombre de personnes qui préfèrent emprunter une voie différente », explique Anthony Aguirre.
D’autres personnalités du monde artistique et politique ont également rejoint l’appel, notamment les acteurs Joseph Gordon-Levitt et Stephen Fry, le rappeur will.i.am et l’auteur Yuval Noah Harari. Susan Rice, ancienne conseillère à la sécurité nationale de l’administration Obama, a également signé la lettre. Fait notable, Leo Gao, un membre du personnel technique d’OpenAI – une organisation qui se décrit comme une entreprise de recherche sur la superintelligence – a également apposé sa signature.
Les organisateurs s’attendent à ce que la liste des signataires s’allonge au fur et à mesure de la campagne. « Les convictions sont déjà là », assure Anthony Aguirre. « Ce que nous n’avons pas, c’est que les gens se sentent libres d’exprimer leurs convictions à haute voix. »
Le prince Harry, duc de Sussex, a accompagné sa signature d’un message percutant : « L’avenir de l’IA doit servir l’humanité, et non la remplacer. Je crois que le véritable test du progrès ne sera pas la rapidité avec laquelle nous avançons, mais la sagesse avec laquelle nous dirigeons. Il n’y a pas de seconde chance. »
Joseph Gordon-Levitt a exprimé ses réserves quant à l’orientation actuelle de la recherche en IA : « Oui, nous voulons des outils d’IA spécifiques qui peuvent aider à guérir des maladies, à renforcer la sécurité nationale, etc. Mais l’IA doit-elle aussi imiter les humains, soigner nos enfants, nous transformer en drogués et gagner des millions de dollars en diffusant des publicités ? La plupart des gens ne veulent pas de cela. Mais c’est ce que ces grandes entreprises technologiques veulent dire lorsqu’elles parlent de construire une “superintelligence”. »
Anthony Aguirre insiste sur la nécessité d’une réglementation pour encadrer le développement de l’IA. « Une grande partie des préjudices proviennent des structures d’incitation perverses auxquelles les entreprises sont actuellement soumises », explique-t-il, soulignant la compétition entre les entreprises américaines et chinoises pour être les premières à créer une superintelligence. « Que ce soit bientôt ou que cela prenne un certain temps, une fois que nous aurons développé la superintelligence, les machines prendront les commandes », avertit-il. « Que cela se passe bien ou non pour l’humanité, nous ne le savons vraiment pas. Mais ce n’est pas une expérience vers laquelle nous voulons simplement nous lancer. »
Sur le même sujet
