Dans un discours important à la Royal Society, le Premier ministre Rishi Sunak a souligné la nécessité urgente pour le monde de donner la priorité à l’atténuation du risque d’extinction humaine dû à intelligence artificielle (IA).
L’affirmation de Sunak est parallèle à la priorité mondiale accordée aux pandémies et à la guerre nucléaire et reflète les inquiétudes croissantes concernant les implications sécuritaires de la technologie de l’IA.
La dernière analyse du gouvernement britannique prévient que l’IA présente des risques majeurs pour la sécurité du Royaume-Uni au cours des deux prochaines années et qu’elle pourrait potentiellement renforcer les capacités de divers acteurs menaçants, y compris les organisations terroristes.
Le rapport publié par le Bureau gouvernemental pour la science souligne comment l’IA pourrait renforcer considérablement les capacités des groupes terroristes, leur permettant d’intensifier leurs efforts de propagande, de développer des armes biologiques et de planifier des attaques plus efficacement.
Cette révélation intervient alors que le Premier ministre Sunak a prononcé un discours sur le rythme « époustouflant » des changements induits par l’IA. Il a souligné que l’impact transformateur de l’IA pourrait avoir une portée aussi grande que celle des révolutions historiques telles que la révolution industrielle, l’avènement de l’électricité et d’Internet.
M. Sunak a fait valoir que la menace d’extinction humaine posée par l’IA devrait être traitée sur un pied d’égalité avec les risques associés aux pandémies et à la guerre nucléaire, faisant écho aux sentiments des experts dans le domaine.
Il a en outre proposé la formation d’un groupe d’experts mondial pour aborder cette question critique, soulignant la nécessité d’une approche coordonnée et internationale pour atténuer les risques liés à l’IA.
Lors d’une conférence de presse, Sunak a reconnu la double nature de l’IA, la décrivant comme une force qui offre des solutions à des problèmes auparavant insurmontables tout en introduisant simultanément de nouveaux dangers et de nouvelles peurs. Il a également affirmé que le Royaume-Uni était à l’avant-garde des efforts visant à assurer la sécurité de ses citoyens et a annoncé la création du premier institut d’IA au monde au Royaume-Uni.
Le Premier ministre a cité une déclaration faite plus tôt par des centaines d’experts en IA, qui soulignaient l’importance mondiale de lutter contre le risque d’extinction induit par l’IA. Il a réitéré : « Atténuer le risque d’extinction dû à l’IA devrait être une priorité mondiale, aux côtés d’autres risques à l’échelle sociétale tels que les pandémies et la guerre nucléaire. »
Sunak a également souligné les dangers potentiels que l’IA pourrait poser si elle n’est pas gérée correctement. Il a averti que l’IA pourrait faciliter la création d’armes chimiques ou biologiques et renforcer les capacités des groupes terroristes. Les criminels pourraient exploiter l’IA à des fins de cyberattaques, de fraudes et même d’abus sexuels sur des enfants. De plus, il a reconnu la possibilité que l’humanité perde le contrôle de l’IA, un concept souvent appelé super-intelligence.
Cependant, le Premier ministre n’a pas tardé à trouver un équilibre en reconnaissant les vastes avantages potentiels de l’IA. Il a salué l’utilisation potentielle de l’IA dans le secteur de la santé, en particulier dans le NHS, où elle pourrait aider à diagnostiquer et à prévenir les accidents vasculaires cérébraux et les crises cardiaques. En témoignage de cet engagement, Sunak a annoncé un financement supplémentaire de 100 millions de livres sterling pour les traitements par IA visant à lutter contre des maladies auparavant incurables.
Dans une démarche quelque peu controversée, le Premier ministre Sunak a invité la Chine à participer au sommet mondial sur l’IA qui se tiendra à Parc Bletchley. Il a défendu cette décision comme étant la bonne approche, étant donné que les principales puissances mondiales de l’IA devraient engager des discussions sur les opportunités et les menaces posées par l’IA.
Alors que Sunak a reconnu que ce n’était pas une décision facile d’inviter des responsables chinois, le vice-Premier ministre Oliver Dowden a confirmé que la Chine avait accepté l’invitation. Cette décision a suscité une controverse, notamment parmi certains députés conservateurs, à une époque où les relations internationales avec la Chine restaient tendues. Dowden est resté optimiste quant à la participation de la Chine au sommet, déclarant qu’il s’attendait à ce que des responsables chinois assistent à l’événement.
Le rapport récemment publié par le gouvernement britannique souligne le risque croissant de menaces liées à l’IA, en particulier dans le domaine de la cyberguerre. Le rapport prévient que l’IA est susceptible de rendre les cyberattaques plus rapides, plus efficaces et à plus grande échelle, en utilisant des méthodes de phishing adaptées et en répliquant des logiciels malveillants pour y parvenir.
En outre, le rapport souligne la potentielle « érosion de la confiance dans l’information » due à l’utilisation de « deepfakes », qui créent de fausses vidéos en utilisant l’image d’une personne, et de « robots hyperréalistes », qui sont de faux profils de réseaux sociaux pouvant générer de fausses nouvelles. , la désinformation personnalisée, manipuler les marchés financiers et saper le système de justice pénale.
Le rapport soulève en outre des inquiétudes quant au fait que d’ici 2026, les médias synthétiques pourraient constituer une part importante du contenu en ligne, érodant potentiellement la confiance du public dans les institutions gouvernementales et exacerbant la polarisation et l’extrémisme.
Dans une évaluation particulièrement pessimiste, le Bureau gouvernemental pour la science note qu’une menace existentielle plus large pour l’humanité due à l’IA ne peut être exclue. Le rapport indique qu’il n’existe pas suffisamment de preuves pour exclure la possibilité que des systèmes d’IA hautement performants, s’ils sont mal alignés ou insuffisamment contrôlés, puissent constituer une menace existentielle.
En outre, le rapport souligne le potentiel de l’IA à perturber le marché du travail en supplantant les travailleurs humains, une évolution qui pourrait nécessiter l’introduction d’une « taxe sur les robots ». Cette taxe, prélevée sur les entreprises bénéficiant du remplacement des travailleurs par l’IA, pourrait être un garde-fou pour protéger l’économie.
La secrétaire à la Technologie, Michelle Donelan, a souligné que le Royaume-Uni est le premier pays à résumer officiellement les risques associés à la technologie de l’IA. Elle a reconnu le potentiel transformateur de l’IA pour améliorer le monde, mais a souligné la nécessité impérative de faire face aux risques associés.
