L’instauration potentielle d’un dispositif d’arrêt d’urgence obligatoire pour l’intelligence artificielle suscite de vives discussions, après des déclarations d’un cofondateur d’Anthropic. Cette proposition intervient alors que Washington restreint l’accès à ses modèles les plus puissants, provoquant de vives tensions politiques à Bruxelles sur la souveraineté technologique européenne.
Le débat autour d’un interrupteur d’urgence obligatoire pour les intelligences artificielles
Les discussions sur la régulation de l’intelligence artificielle franchissent un nouveau cap avec l’idée d’imposer des mécanismes de sécurité stricts aux entreprises du secteur. Selon les déclarations accordées à la BBC par Clark, l’intégration de telles mesures doit figurer au cœur des politiques publiques à venir.
L’industriel a posé une question centrale pour l’avenir de la régulation mondiale : Should you mandate for companies to definitely have a kill switch? Is that kill switch verifiable by a third party?
Pour lui, il s’agit d’une interrogation fondamentale à laquelle la société devra répondre pour encadrer le développement technologique.
« I think that’s the kind of thing society is going to want to know and might want to eventually pass rules around. »
Clark, cofondateur d’Anthropic via BBC
Cette prise de position intervient dans un contexte de fortes inquiétudes sur la sécurité des modèles avancés. Un ancien chercheur d’Anthropic a récemment démissionné en raison de ses craintes concernant un risque existentiel lié à l’intelligence artificielle, alimentant un débat mondial sur la maîtrise de ces technologies de pointe.
Les tensions transatlantiques et les restrictions américaines sur les modèles avancés
La question de la sécurité se conjugue désormais avec des barrières géopolitiques strictes. L’administration américaine a ordonné à Anthropic de restreindre l’accès à ses deux modèles les plus puissants pour l’ensemble des utilisateurs non américains, invoquant des risques d’utilisation par des puissances rivales comme la Chine et la Russie.
Cette décision unilatérale a provoqué une vive réaction à Bruxelles. La Commission européenne a dénoncé des mesures discriminatoires, tandis que des eurodéputés ont estimé que cet épisode démontre l’existence d’un interrupteur de contrôle géopolitique détenu par Washington sur des infrastructures numériques essentielles. Christophe Grudler, coordinateur de la commission de l’industrie, a souligné que ces restrictions confirment les craintes de longue date des libéraux européens face à la dépendance technologique du continent.
« The United States is once again demonstrating what we Liberals and Democrats have warned about so many times since Trump entered into office; that the US holds a real ‘kill-switch’ over essential technologies and that they are more than willing to use it. »
Christophe Grudler, eurodéputé Renew Europe via EU Perspectives
Les modèles concernés par ces restrictions incluent Fable 5, récemment lancé, ainsi que Mythos 5, un système ultra-performant réservé au programme de recherche en cybersécurité Project Glasswing. Cet dernier outil est capable d’identifier des vulnérabilités logicielles à une échelle industrielle.
Évaluations financières et scepticisme industriel face au risque existentiel
Alors que la course aux armements technologiques s’accélère, les valorisations boursières des géants de l’intelligence artificielle atteignent des sommets vertigineux. Anthropic est évaluée à $965bn (£713bn) et se prépare à une introduction en bourse. De son côté, OpenAI affiche une valorisation estimée à $852bn (£630bn).
Toutefois, ces chiffres donnent lieu à un scepticisme prononcé de la part de certains acteurs de la tech. George Arison, dirigeant de Grindr, a estimé que les inquiétudes publiques concernant la destruction de l’humanité sont parfois instrumentalisées par les entreprises pour soutenir leurs ambitions financières et justifier des valorisations colossales.
Des désaccords persistent également au sein de la communauté scientifique quant à la réalité des menaces existentielles. Si Geoffrey Hinton, lauréat du prix Nobel souvent qualifié de parrain de l’intelligence artificielle, juge qu’une probabilité de 10% de voir l’IA éliminer l’humanité n’est pas déraisonnable, d’autres experts appellent à la modération.
Bruce Schneier, cryptographe et conférencier à Harvard University, a ainsi relativisé la portée de ces innovations, qualifiant les derniers modèles d’améliorations incrémentales dans l’évolution continue des capacités de l’intelligence artificielle, tout en notant que la communauté open-source parvient rapidement à répliquer des performances similaires à moindres frais.