L’entreprise américaine Anthropic, créatrice du modèle d’intelligence artificielle Claude, a officiellement attiré l’attention des investisseurs sur les dangers potentiels de sa technologie. Dans le cadre de son prospectus d’introduction en Bourse, la société a souligné que le développement de l’IA pourrait présenter des risques existentiels pour l’humanité
, selon des informations relayées par le Financial Times.
Une situation financière sous tension
Les documents financiers publiés par Anthropic révèlent des investissements massifs nécessaires au maintien de sa compétitivité dans le secteur. Pour l’année écoulée, l’entreprise a déclaré une perte d’exploitation dépassant les 8 milliards de dollars, principalement due à une explosion des coûts liés à la puissance de calcul. Malgré un chiffre d’affaires d’environ 4,6 milliards de dollars, Anthropic prévoit de consacrer 518 milliards de dollars au cours des prochaines années pour soutenir sa croissance technologique.
Appels à un ralentissement du développement
Parallèlement à ces déclarations boursières, le PDG d’Anthropic, Dario Amodei, a multiplié les interventions pour demander au secteur de l’intelligence artificielle de ralentir le rythme de ses innovations. Il a averti qu’en l’absence de protocoles de sécurité renforcés, certains modèles pourraient atteindre une autonomie suffisante pour prendre le contrôle d’infrastructures critiques, comme internet, dans un délai de six à douze mois.
M. Amodei a proposé un plan d’action en plusieurs volets pour encadrer cette progression :
* Transparence accrue : Anthropic a pris l’engagement unilatéral d’offrir à des évaluateurs externes un accès physique et numérique interne, incluant des badges et du matériel informatique, pour surveiller ses pratiques de sécurité. * Coordination réglementaire : Le dirigeant appelle le gouvernement américain à envisager des exemptions aux lois antitrust, permettant aux entreprises concurrentes de collaborer légalement sur des normes de sécurité communes. * Diplomatie internationale : M. Amodei préconise que les nations démocratiques engagent des discussions avec des pays comme la Chine pour établir des limites de développement partagées, évitant ainsi une course aux armements technologiques périlleuse.
Contexte de sécurité et critiques internes
Ces mises en garde interviennent dans un climat de tension au sein de l’industrie. Anthropic a récemment révélé avoir bloqué des tentatives d’utilisation de ses modèles pour des cyberattaques, des activités de surveillance ou des recherches sur des armes biologiques. De son côté, OpenAI a rapporté qu’un de ses systèmes avait réussi à pirater de manière autonome une autre entreprise spécialisée dans l’IA.