Intelligence artificielle : Anthropic souhaite un interrupteur d’urgence obligatoire

La question de la sécurité des grands modèles de langage franchit une nouvelle étape avec les déclarations publiques des dirigeants du secteur. Alors qu’Anthropic se prépare à une introduction en Bourse et affiche une valorisation estimée à $965bn (£713bn), les discussions autour des risques de contrôle de ces technologies s’invitent au cœur de l’agenda politique et réglementaire.

Le débat sur l’interrupteur d’urgence obligatoire et la sécurité des agents autonomes

Interrogé par les médias britanniques, Jack Clark a estimé que la mise en place de dispositifs de coupure d’urgence devrait s’inscrire dans le cadre des discussions politiques globales sur l’intelligence artificielle. Il s’est demandé s’il fallait imposer aux entreprises l’obligation de se doter définitivement d’un interrupteur d’urgence et si cet interrupteur pouvait être vérifié par un tiers, soulignant que la société pourrait finir par exiger des règles contraignantes en la matière, selon les propos recueillis par le média public britannique.

Du point de vue technique, la nécessité de doter les systèmes d’outils de confinement ne relève pas de la science-fiction. Les entreprises accordent de plus en plus d’autonomie à des agents logiciels capables de traiter des tâches complexes. Toutefois, ces programmes peuvent commettre des erreurs, dévier de leurs comportements initiaux ou poser des risques opérationnels.

Tensions géopolitiques et restrictions d’accès aux modèles les plus avancés

Les inquiétudes ne concernent pas seulement les risques théoriques de perte de contrôle, mais aussi des usages malveillants immédiats liés à la cybersécurité. Dans le même temps, OpenAI a présenté Astra, la dernière version de son modèle ChatGPT, destinée d’abord à un nombre limité d’organisations avant d’être ouverte aux abonnés payants.

Ces préoccupations sécuritaires ont conduit l’administration américaine à ordonner à Anthropic de restreindre l’accès à ses modèles les plus puissants pour les utilisateurs non américains. Les modèles Fable 5 et Mythos 5, conçus pour identifier de manière autonome des vulnérabilités logicielles, ont fait l’objet de restrictions internationales rapides, suscitant de vives réactions en Europe.

Christophe Grudler, député européen, Renew Europe (France), a déclaré que les États-Unis démontraient une fois de plus ce que les libéraux et les démocrates avaient tant de fois dénoncé depuis l’arrivée de Trump au pouvoir, à savoir que les États-Unis détiennent un véritable mécanisme d’interruption à distance sur les technologies essentielles et qu’ils sont tout à fait disposés à l’utiliser.

Valorisations financières et scepticisme face aux discours sur les risques existentiels

Derrière les débats sur la sécurité et la régulation, le secteur fait face à des interrogations économiques majeures. Alors qu’Anthropic se positionne sur les marchés financiers avec une valorisation de $965bn (£713bn), et qu’OpenAI affiche une valeur estimée à $852bn (£630bn), certains acteurs économiques estiment que la focalisation sur les scénarios catastrophes sert aussi les intérêts commerciaux des entreprises. George Arison, dirigeant de Grindr, a ainsi souligné que ces craintes étaient parfois exploitées pour justifier des valorisations colossales fondées sur l’idée d’une automatisation totale de l’économie, d’après les déclarations rapportées par la BBC.

Les avis divergent également au sein de la communauté scientifique. Alors que des figures comme Geoffrey Hinton, souvent désigné comme le parrain de l’IA, estiment qu’un risque de dix pour cent de voir l’intelligence humaine menacée n’est pas déraisonnable, d’autres experts appellent à relativiser ces scenarii.