Jacob Coxon, un chercheur britannique de 27 ans, a annoncé sa démission d’Anthropic et son retrait de l’industrie de l’intelligence artificielle. Dans une série de messages publiés mardi sur X, il accuse les laboratoires OpenAI et Anthropic de « jouer avec nos vies » dans leur course vers une superintelligence potentiellement incontrôlable.
Les accusations de Jacob Coxon et les termes de la course à l’IA
Mathématicien de formation, Jacob Coxon travaillait sur le pré-entraînement, l’étape critique où les modèles absorbent d’immenses quantités de données. Après avoir exercé chez OpenAI, il avait rejoint Anthropic pour sa réputation en matière de sécurité. Il a finalement choisi de tout abandonner, estimant que la concurrence acharnée entre les laboratoires américains et chinois pousse inévitablement les entreprises à négliger les risques essentiels.
Dans ses publications suivies par des millions d’utilisateurs sur le réseau social, le chercheur a formulé un avertissement direct. Aucune des deux entreprises n’agit de façon responsable. Elles foncent droit vers une superintelligence capable de s’améliorer elle-même et jouent avec nos vies
, a-t-il affirmé.
Selon ses observations internes, les salariés du secteur emploient désormais des expressions comme crunchtime
pour désigner la dernière ligne droite et endgame
pour décrire la phase finale de cette trajectoire technologique. Il signale que les personnes qui conçoivent ces systèmes redoutent en privé des scénarios extrêmes, allant jusqu’à craindre que la technologie ne devienne incontrôlable d’ici la fin de l’année prochaine.
La réponse d’Anthropic et le débat sur le risque existentiel
La démission de Jacob Coxon a provoqué des réactions directes au sein même de son ancien employeur. Un responsable de la sûreté d’Anthropic, Evan Hubinger, a publiquement pris la parole sur X pour répondre au chercheur.
Ce même responsable a estimé à titre personnel ce risque à plus de 10% au cours de la décennie en cours. Il a toutefois ajouté qu’Anthropic faisait de son mieux tout en admettant qu’il n’y avait pas encore de plan pour garantir qu’une intelligence artificielle surpassant l’humain reste sous le contrôle de ses concepteurs, tout en qualifiant de faible le risque présenté par les modèles actuels.
La question de la sécurité s’inscrit dans un contexte particulièrement tendu pour Anthropic, qui prépare une entrée en Bourse d’envergure. Ce départ survient également après un été marqué par des piratages menés sans autorisation par des outils d’intelligence artificielle en phase de test dans plusieurs laboratoires.
Pression politique et appels à un ralentissement coordonné
Face à la perspective de l’auto-amélioration récursive, où un modèle concevrait seul son successeur hors de tout contrôle humain, des voix s’élèvent pour réclamer une intervention réglementaire. Jacob Coxon soutient qu’aucune entreprise ne peut développer de manière responsable une IA surpassant l’homme sans l’aide des États ou sans un ralentissement coordonné de l’industrie.
Les pressions se multiplient à Washington. Fin juillet, plus d’un millier d’employés du secteur, incluant le patron d’Anthropic Dario Amodei, ont demandé la mise en place d’un mécanisme de freinage. De son côté, OpenAI a suspendu une partie de ses entraînements pendant deux semaines au mois d’août, tandis que le chef scientifique d’OpenAI, Jakub Pachocki, a déclaré que la coordination internationale devait devenir une priorité absolue.
Sur le plan législatif, l’absence de cadre fédéral strict aux États-Unis, où l’administration Trump privilégie une approche légère, pousse certains élus à agir. Le sénateur Bernie Sanders et l’élu démocrate Greg Casar ont ainsi déposé une proposition de loi au début du mois de septembre pour suspendre le développement de ces systèmes jusqu’à l’établissement d’un régulateur fédéral.