L’intelligence artificielle générative traverse une période de turbulences institutionnelles, marquée par des divergences béantes entre les créateurs de modèles et les gouvernements. Cette démarche collective has toutefois immédiatement buté sur l’opposition de Washington, fermement hostile à toute structure supranationale de régulation.
L’appel pressant des dirigeants d’OpenAI, d’Anthropic et de Hugging Face à l’ONU
La confrontation des points de vue s’est jouée en plein débat diplomatique. Sam Altman, dirigeant d’OpenAI, Dario Amodei, à la tête d’Anthropic, et Clement Delangue, cofondateur de Hugging Face, ont ainsi plaidé d’une seule voix pour l’instauration de standards communs en matière d’évaluation des risques.
Concrètement, ces responsables réclament des protocoles unifiés pour mesurer les capacités des systèmes, évaluer les risques associés, maintenir un degré suffisant de supervision humaine et garantir une signalisation rapide des incidents. L’objectif affiché est de permettre à la planète d’apprendre des défaillances des systèmes avant qu’elles ne dégénèrent en catastrophes irréversibles.
Le rejet catégorique de la régulation mondiale par les États-Unis
À cette volonté d’encadrement global, l’administration américaine a opposé une fin de non-recevoir. Michael Kratsios, conseiller technologique clé du président américain Donald Trump et ancien dirigeant d’Uber, a pris le contre-pied total des positions défendues par la Silicon Valley lors de la même conférence aux Nations Unies.
Cette position américaine consacre un fossé géopolitique majeur entre les impératifs de sécurité prônés par les concepteurs de modèles et la doctrine de libre-concurrence technologique soutenue par Washington, qui refuse catégoriquement tout abandon de souveraineté normative au profit d’instances multilatérales.
L’exercice d’évaluation croisée mené par OpenAI et Anthropic
Pendant que ces tractations diplomatiques agitaient les tribunes internationales, sur le plan technique, les pratiques de transparence s’organisent en coulisses. Dans une démarche inédite, OpenAI et Anthropic ont conduit un exercice d’évaluation mutuelle de leurs alignements respectifs, consistant à soumettre leurs modèles de pointe aux tests internes de sécurité de leur principal concurrent.
Cette collaboration a permis à OpenAI de tester les modèles Claude Opus 4 et Claude Sonnet 4 d’Anthropic via une API publique, tout en mesurant leurs performances face à ses propres systèmes, tels que les modèles GPT et les séries o3 et o4-mini. Les résultats de ces analyses croisées mettent en lumière des profils de comportement très contrastés selon les architectures techniques retenues.
D’après les conclusions publiées par OpenAI, les modèles de la gamme Claude se distinguent par une excellente maîtrise de la hiérarchie des instructions et une résistance accrue aux tentatives d’extraction de messages système. En revanche, ils affichent des performances en retrait sur les scénarios de contournement de sécurité par rapport aux modèles de raisonnement d’OpenAI, tout en se caractérisant par un taux de refus d’exécution exceptionnellement élevé, atteignant parfois des proportions notables face à des situations générant de l’incertitude.