OpenAI et Anthropic ont activé des cellules de crise dédiées, baptisées war rooms
, pour surveiller l’utilisation de leurs chatbots et contrer la propagation de fausses informations à l’occasion des élections de mi-mandat aux États-Unis, marquant une première pour les deux entreprises technologiques. OpenAI a lancé son centre d’opérations électorales tandis qu’Anthropic a mis en place des équipes similaires à San Francisco, New York et Washington pour faire face aux menaces d’ingérence en ligne.
Le dispositif d’OpenAI pour surveiller les abus de ChatGPT
Dans un bureau exigu situé à proximité de la cafétéria de l’un des bureaux d’OpenAI à San Francisco, plus d’une dizaine de personnes se relayent continuellement pour empêcher quiconque d’utiliser ChatGPT dans le but de perturber le scrutin. En tant que responsable de l’unité opérationnelle, Josh Lawson a rappelé que la technologie disponible était alors essentiellement textuelle et que l’outil disposait à l’époque d’un cinquième du milliard d’utilisateurs recensé aujourd’hui. L’investigateur en chef Ben Nimmo a souligné dans un entretien que l’équipe s’efforce de repérer ces opérations avant qu’elles ne parviennent à s’implanter durablement. La firme a d’ailleurs déjà mis en lumière des tentatives orchestrées par la Chine, l’Iran et la Russie visant à instrumentaliser ChatGPT pour mener des activités d’influence étrangère, dont deux opérations qui ont été neutralisées le mois précédent.
Les initiatives d’Anthropic et le rôle des partenaires institutionnels
De son côté, Anthropic a mobilisé des analystes répartis en cellules pour surveiller les abus potentiels sur sa plateforme Claude, ciblant spécifiquement l’usurpation d’identité de responsables électoraux et la diffusion de fausses informations. Pour garantir l’exactitude des données fournies aux électeurs, les deux laboratoires collaborent avec Democracy Works afin d’intégrer dans leurs modèles des informations validées sur les inscriptions, les délais et les bureaux de vote. Cette approche fait écho aux pratiques adoptées dès 2018 par Meta, qui avait instauré la première « war room » électorale en réaction aux ingérences lors de la présidentielle de 2016. Un porte-parole d’Anthropic a indiqué à Semafor que l’entreprise déploie des efforts continus tout au long de l’année afin de renforcer les dispositifs de sécurité liés au scrutin et de faire respecter ses règles d’utilisation.
Les pressions réglementaires et les opérations d’influence étrangères
Ces déplacés interviennent alors que les géants de la tech font face à des critiques récurrentes concernant leur gestion des contenus malveillants, dans un climat marqué par des interpellations parlementaires et des enquêtes fédérales. Des sénateurs démocrates ont récemment interpellé les dirigeants technologiques sur les risques accrus de manipulation à grande échelle par l’intelligence artificielle. Dans le même temps, OpenAI a fait état de mesures coercitives, ayant banni des comptes liés à des opérations de propagande en provenance de Russie, de Chine et d’Iran, tout en signalant des efforts continus pour neutraliser ces réseaux avant qu’ils ne gagnent en visibilité.
Des parlementaires, parmi lesquels les représentants Joe Morelle et Jim Himes ainsi que les sénateurs Alex Padilla, Mark Warner et Adam Schiff, ont exprimé de vives inquiétudes auprès des responsables de plateformes numériques quant à la responsabilité considérable incombant à ces entreprises dans les scrutins américains. Les parlementaires ont souligné que les services en ligne occupent une fonction déterminante dans la transmission, la diffusion et parfois même la création de contenus relatifs aux élections. Des personnalités telles que Katie Harbath, ancienne directrice des politiques publiques chez Meta, ont rappelé que ces cellules de crise sont conçues pour parer aux imprévus et exigent une méthodologie de tri rigoureuse et rapide.
