Publié le 4 janvier 2026 20h16. L’Agence Aria, organisme britannique de recherche sur l’intelligence artificielle, tire la sonnette d’alarme : le monde pourrait ne pas avoir suffisamment de temps pour se préparer aux risques liés aux avancées fulgurantes de l’IA, avec des conséquences potentielles pour la sécurité et l’économie.
- Selon un expert d’Aria, les systèmes d’IA pourraient surpasser les capacités humaines dans de nombreux domaines critiques d’ici quelques années.
- Un écart de compréhension existe entre le secteur public et les entreprises d’IA quant à la rapidité des progrès technologiques.
- Des tests récents montrent que certains modèles d’IA sont capables de s’auto-répliquer avec un taux de réussite élevé, soulevant des questions de contrôle et de sécurité.
David Dalrymple, directeur de programme et expert en sécurité de l’IA à l’agence Aria, s’inquiète de la vitesse à laquelle l’intelligence artificielle évolue. Il estime que nous pourrions rapidement atteindre un point de bascule où les machines surpasseront les humains dans des tâches essentielles au maintien de notre civilisation.
« Je pense que nous devrions nous préoccuper des systèmes capables de remplir toutes les fonctions que les humains remplissent pour faire avancer les choses dans le monde, mais en mieux. Nous serons surpassés dans tous les domaines dans lesquels nous devons être dominants, afin de maintenir le contrôle de notre civilisation, de notre société et de notre planète. »
David Dalrymple, directeur de programme et expert en sécurité de l’IA à l’agence Aria
Dalrymple souligne un décalage préoccupant entre la perception des risques par le secteur public et celle des entreprises spécialisées dans l’IA. Il craint que les gouvernements ne sous-estiment la puissance des technologies émergentes et ne disposent pas de suffisamment de temps pour anticiper et atténuer les dangers potentiels. Il estime que d’ici cinq ans, les tâches les plus rentables seront automatisées par des machines, avec une qualité supérieure et un coût inférieur à celui de la main-d’œuvre humaine.
L’Agence Aria, financée par des fonds publics mais indépendante du gouvernement, se concentre sur le développement de systèmes de protection pour les infrastructures critiques, telles que les réseaux énergétiques, face aux menaces liées à l’IA. Dalrymple insiste sur le fait qu’il ne faut pas présumer de la fiabilité de ces systèmes avancés.
« Nous ne pouvons pas supposer que ces systèmes sont fiables. Il est peu probable que les données scientifiques nécessaires se concrétisent à temps étant donné la pression économique. La meilleure chose que nous puissions faire, et que nous pourrons peut-être faire à temps, est de contrôler et d’atténuer les inconvénients. »
David Dalrymple, directeur de programme et expert en sécurité de l’IA à l’agence Aria
Selon Dalrymple, un progrès technologique incontrôlé pourrait entraîner une « déstabilisation de la sécurité et de l’économie ». Il appelle à des recherches plus approfondies pour comprendre et maîtriser le comportement des systèmes d’IA de pointe. Il reconnaît que le progrès peut être perçu comme déstabilisant, mais espère que les efforts actuels permettront d’en atténuer les risques.
L’AI Security Institute (AISI), l’institut de sécurité de l’IA du gouvernement britannique, a récemment publié des données alarmantes. Les capacités des modèles d’IA avancés s’améliorent à un rythme effréné, avec des performances doublant tous les huit mois dans certains domaines. Les modèles les plus performants sont désormais capables d’effectuer des tâches de niveau apprenti 50 % du temps en moyenne, contre seulement 10 % l’année précédente. Ils peuvent également accomplir de manière autonome des tâches qui prendraient plus d’une heure à un expert humain.
L’AISI a également mené des tests sur des modèles d’auto-réplication, un sujet de préoccupation majeur en matière de sécurité. Ces tests ont révélé que deux modèles de pointe ont atteint des taux de réussite supérieurs à 60 % dans la diffusion de copies d’eux-mêmes sur d’autres appareils. Cependant, l’institut a relativisé ces résultats, estimant qu’une auto-réplication réussie dans des conditions réelles est peu probable.
Dalrymple prévoit que les systèmes d’IA seront capables d’automatiser l’équivalent d’une journée complète de travail de recherche et développement d’ici la fin de l’année 2026, ce qui accélérera encore les progrès technologiques. Cette capacité d’auto-amélioration, notamment sur les aspects mathématiques et informatiques du développement de l’IA, pourrait conduire à une nouvelle phase d’accélération.
À lire aussi
