je n début 2023, Rocco Casagrande, scientifique et ancienne inspecteur des armes des Nations Unies, a apporté un petit récipient à la Maison Blanche pour un briefing auprès des représentants du gouvernement américain. Il était rempli d’une douzaine d’ingrédients chimiques facilement disponibles que le chatbot phare d’Anthropic, Claude, a recommandé comme précurseurs de déclencher une autre pandémie. La cascade de Casagrande a confirmé que toute personne ayant une connexion Internet peut désormais créer sa propre arme de destruction massive.
«Il est clair que la technologie biologique, désormais stimulée par l’intelligence artificielle, l’a rendu plus simple que jamais pour produire des maladies», ” écrire Academic Roger Brent, chercheur principal chez Rand Corporation T. Greg McKelvey Jr. et le président de Rand Jason Matheny. «Certains individus et groupes sont confrontés à des barrières – parlez, une incapacité à accéder aux bons laboratoires ou aux bons installations. Mais grâce aux avancées technologiques incessantes, ces obstacles s’effondrent.»
La prolifération mondiale de modèles de grandes langues aggrave de nombreux problèmes de sécurité. Parmi eux, la façon dont l’intelligence artificielle peut permettre aux extrémistes de commettre du bioterrorisme à faire avancer leurs causes idéologiques. Les chatbots se sont déjà révélés capables de conseiller les utilisateurs sur la façon de planifier les attaques en utilisant de nouvelles formes mortelles de bactéries, de virus et de toxines. La compétition de grande puissance, quant à elle, est distrayante des menaces posées par des groupes terroristes et des acteurs non étatiques malveillants.
Ce n’est pas une nouvelle pour la Silicon Valley. Google Framework d’IA sécurisé Identifie les attaques bio compatibles avec AI comme une préoccupation. Au contraire, une équipe réunie par Openai a examiné le problème l’année dernière, constatant que GPT-4 ne donnait aux utilisateurs qu’un avantage marginal sur des recherches sur Internet régulières dans la création d’armes à biow.
Malgré cette conclusion, le risque de bioterrorisme n’est pas statique. Le rapport international sur la sécurité de l’IA, produit pour le Sommet d’action de l’AI de Paris 2025, montre que les LLM sont s’améliorer Aux tâches liées aux armes biologiques et chimiques, répondant avec précision aux questions sur l’acquisition et la formulation d’agents mortels. Les évaluations des auteurs du rapport suggèrent que les instructions de certains modèles pour libérer des substances mortelles ont montré une amélioration de 80% en 2024 seulement.
C Hina, Iran, La Corée du Nord et la Russie sont tous cru posséder Quelques capacités pour créer des armes bio-armes. Cependant, «l’identification et l’imprécision des armes bio-armes ont signifié que les États restent peu susceptibles de présenter des attaques biologiques à grande échelle à court terme», » lecture Un rapport publié en août 2024 par le Center for a New American Security – ANC. En revanche, «les acteurs non étatiques – notamment des loups solitaires, des terroristes et des groupes apocalyptiques – ont un historique troublant de tenter d’attaques biologiques, mais avec un succès limité en raison de la complexité intrinsèque de la construction et de la défense de ces capacités délicates.»
Mais ce faux sentiment de sécurité change, avertit les chercheurs du CNAS. Surtout grâce aux progrès de la science génétique, de la biologie synthétique et de l’émergence de laboratoire de cloud—Discuseet, les installations automatisées se sont contractées pour mener des expériences à distance au nom d’un client.
Dans le même temps, la Maison Blanche de Donald Trump a vidé le Américain’s AI Safety Institute. Établi lors du crépuscule de l’administration Joe Biden, l’institut a été chargé d’identifier, de mesurer et d’atténuer les risques des systèmes d’IA avancés. Le réseau international des instituts de sécurité de l’IA poursuivra des travaux similaires, bien qu’il va désormais détenir beaucoup moins sur les entreprises technologiques américaines.
Le Federal Bureau of Investigation et la Central Intelligence Agency ont également subi d’énormes pertes d’expertise grâce à une intimidation et à un licenciement généralisés par le soi-disant ministère de l’efficacité gouvernementale. Les deux agences sont des sources cruciales d’intelligence mondiale de lutte contre le terrorisme.
Plus important encore, il y a un effet effrayant Se propager parmi les alliés américains lorsqu’il s’agit de partager des informations classifiées avec Washington. Les responsables de ces pays – ont déclaré cinq nations Eyes (Australie, Canada, Nouvelle-Zélande et Royaume-Uni), ainsi qu’Israël et l’Arabie saoudite – sensiblement à la Maison Blanche qui pourrait transmettre des renseignements à Moscou dans le but de réparer les relations américano-Russie.
Cependant, dans un environnement géopolitique hostile, l’inverse s’applique également. L’État islamique, en mars 2024, a massacré des participants dans une salle de concert de banlieue de Moscou, tuant 139 personnes et en blessant des centaines d’autres. Distrait par sa guerre en Ukraine et dédaigneux des agences de renseignement étrangères Avertissement d’un complot terroriste ciblant la Russie, le Kremlin a été pris des pieds plats.
T terreur ransnationale des groupes et des acteurs non étatiques violents réanimant dans les aspirateurs de pouvoir créés par Le retrait de l’Amérique du multilatéralisme. Ils exploitent habilement des technologies sophistiquées telles que les crypto-monnaies, les cyberattaques et les ransomwares. Des applications de messagerie chiffrées comme WhatsApp et Telegram sont utilisées pour recruter de nouveaux membres, acheter et vendre des armes, collecter des fonds et s’organiser à la vedette.
Cette tendance s’étend au-delà des rebelles islamistes et des suprémacistes axés Ziziens maintenant disparus—Un Collectif de la région de la baie de San Francisco a décrit comme «le premier culte de la mort influencé au monde» qui a demandé le remplacement de l’humanité par la superintelligence informatique.
«La véritable menace existentielle à venir n’est pas de Chine», deux technologues a écrit en janvier pour Revue de la technologie du MITdéplorer la conversation sur les démocraties libérales enfermées dans la bataille pour la suprématie de l’IA avec Pékin. Ils disent plutôt que cela vient «de l’armement de l’IA avancée par de mauvais acteurs et des groupes voyous qui cherchent à créer de larges préjudices, à gagner de la richesse ou à déstabiliser la société».
La fragilité des systèmes d’IA elle-même pose d’autres défis. Chaque chatbot IA majeur a prouvé vulnérable aux jailbreaks—Me les moyens créatifs par les utilisateurs pour pirater les protocoles de sécurité des systèmes. Ce danger est amplifié de façon exponentielle par la montée des agents d’IA qui peuvent désormais exécuter des tâches de manière autonome sur Internet. Et tandis que les modèles open-source à moindre coût pourraient inaugurer un terrain de jeu plus uniforme lorsqu’il s’agit d’adopter l’IA pour la productivité et l’innovation, ils ont leurs propres défauts flagrants et doivent aussi être réglementé en conséquence.
Pourtant, la législation des entités ayant une autorité juridictionnelle sur la Silicon Valley est soumise à des efforts féroces de lobbying. L’inauguration de la Californie Bill SB 1047par exemple, a été opposé son veto l’année dernière par le gouverneur Gavin Newsom après un blitz de relations publiques par l’industrie technologique. Inquiétant, les législateurs républicains ont également inséré un clause furtive dans leur facture fiscale enroulée par le Congrès qui interdirait aux États et aux localités de réglementer l’IA pour la prochaine décennie.
Dans une touche d’ironie sombre, si une attaque bioterroriste comparée à la technologie se produit, l’IA sera également vitale pour accélérer un remède. Espérons que cela n’atteindra jamais ce point – la visualité-19 a déjà montré comment un nouveau virus peut faire des ravages sur un monde hyperconnecté. Les chances sont que la prochaine pandémie sera bien pire.
Réimprimé, avec permission, du Centre pour l’innovation de la gouvernance internationale.
#demandé #chatbot #comment #démarrer #une #pandémie #répondu
2025-07-28 10:30:00
