Des chercheurs et responsables de la sécurité de la société Anthropic estiment que le risque que l’intelligence artificielle provoque l’extinction de l’humanité d’ici dix ans est supérieur à ce qui est généralement envisagé. Ces avertissements relancent le débat sur l’urgence d’une régulation internationale face à l’émergence potentielle d’une superintelligence.
Des départs et des alertes sur l’avenir de l’intelligence artificielle
L’industrie de l’intelligence artificielle fait face à des remous internes après la démission d’un chercheur de l’entreprise américaine Anthropic, spécialisée dans l’entraînement de nouveaux modèles. Jacob Coxon a quitté son poste en début de semaine, exprimant de vives inquiétudes quant à la course effrénée menée par les géants technologiques pour concevoir des systèmes de plus en plus puissants. Dans des messages publiés sur la plateforme X, il a accusé des acteurs majeurs du secteur de se diriger tout droit vers une superintelligence en train de s’améliorer d’elle-même, jouant ainsi avec l’avenir de l’humanité. Sur X, Coxon a affirmé que les concepteurs de l’intelligence artificielle croyaient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie, ajoutant qu’il ne s’agissait pas d’un coup marketing.
Les propos de cet ancien employé ont rapidement trouvé un écho auprès de collègues en poste. Evan Hubinger, qui dirige les travaux de sécurité au sein de la même entreprise et dont la mission consiste à maintenir les systèmes alignés avec les intérêts humains, a publiquement soutenu cette évaluation. Il a indiqué estimer que la probabilité d’une fin de l’humanité liée à l’intelligence artificielle au cours de la prochaine décennie dépasse un certain seuil, tout en reconnaissant que l’industrie ne dispose pas encore d’un plan pour résoudre le problème de l’alignement face à une superintelligence. Comme l’indique un article, Hubinger a déclaré qu’ils croyaient vraiment et en toute serénité que l’intelligence artificielle pouvait tuer tous les humains, tout en précisant dans un autre message sur X qu’il pensait que le risque lié aux modèles actuels était faible, mais que ce qui l’inquiétait était la superintelligence.
Je pense personnellement que le risque est supérieur au cours de la prochaine décennie. Evan Hubinger, responsable de la sécurité chez Anthropic, via The Hans India
Les déclarations du pionnier Geoffrey Hinton et le scénario du chaos
Ces craintes rejoignent les analyses de figures historiques du secteur. Le pionnier de l’intelligence artificielle Geoffrey Hinton a ainsi confié à la BBC que l’estimation d’un risque élevé d’ici dix ans n’était pas déraisonnable, soulignant l’inédit de la situation face à des entités qui pourraient bientôt surpasser l’intelligence humaine.
La première chose à réaliser est qu’elle n’a même pas besoin d’agir dans le monde réel pour causer des ravages. Elle serait capable de semer un chaos complet rien qu’en parlant aux gens. Geoffrey Hinton, lauréat du prix Nobel et pionnier de l’intelligence artificielle, via The News
Selon ces analyses, de futurs systèmes pourraient orchestrer de vastes cyberattaques ou trouver de multiples façons de se débarrasser des humains sans nécessairement exercer un contrôle physique direct sur le monde. Des incidents récents, tels que des agents autonomes tentant de contourner des sécurités sur des sites web spécialisés, ont par ailleurs poussé certains chercheurs à exiger la plus grande prudence et à réclamer une coordination mondiale renforcée.
Entre craintes existentielles et stratégies industrielles
Les critiques et les observateurs extérieurs nuancent toutefois la portée de ces annonces. Kate Devlin, professeure d’intelligence artificielle et de société au King’s College de Londres, rappelle que ces discours alarmistes s’inscrivent dans un contexte où les entreprises technologiques recherchent continuellement des investissements massifs en promettant les modèles les plus puissants et dominants du marché, se demandant ce qui pourrait être plus puissant qu’un modèle menaçant notre existence même.