Dans une révélation révolutionnaire qui met en lumière l’avenir de l’intelligence artificielle touchant l’horizon et se remodelant activement, le PDG Openai Sam Altman a révélé que l’IA réécrit désormais indépendamment son propre code, signalant une nouvelle ère de développement autonome.
Sam Altman a partagé sur son blog que l’humanité a «dépassé l’horizon de l’événement» et «le décollage a commencé».
Il pense que nous approchons de la création d’une superintelligence numérique, notant que son développement a été «beaucoup moins bizarre» que prévu.
1. “Nous avons dépassé l’horizon de l’événement; le décollage a commencé. L’humanité est sur le point de construire une superintelligence numérique, et au moins jusqu’à présent, c’est beaucoup moins bizarre qu’il ne semble que cela ne devrait l’être.”
Sam Altman a encore une fois publié un article sur son blog personnel. Ce n’est rien de moins… pic.twitter.com/z6zxm0s0z9
– Chubby♨️ (@kimmonismus) 10 juin 2025
Le décollage de l’IA: Sam Altman sur le code auto-améliore
Altman prévoit que d’ici 2026, nous verrons probablement des systèmes capables de découvrir de nouvelles idées, avec des robots effectuant des tâches réelles potentiellement arrivant d’ici 2027.
Le billet de blog d’Altman a rapidement généré le buzz sur les réseaux sociaux, ce qui a suscité de nombreuses spéculations sur ce que les nouveaux développements auraient pu inspirer ses mots.
Alors que beaucoup ont réfléchi aux implications, certains ont accusé Altman de battage médiatique sans vergogne. Dans les cercles de l’IA, le terme «décollage» détient une signification spécifique et reconnue. «Le décollage fait référence au point où l’IA commence à s’améliorer.
Il y a une discussion en cours sur les scénarios de «décollage lent» contre «décollage rapide». Étant donné qu’Altman a intitulé son blog «The Gentle Singularité», il semble s’aligner sur la perspective de décollage plus lente, ou du moins plus progressive.
AI AIDÉE DE LE DÉVELOPPEMENT D’IA
Dans son blog, Altman a précisé qu’il ne faisait pas référence à l’auto-amélioration entièrement automatisée. Au lieu de cela, il discutait des chercheurs de l’IA utilisant des outils d’IA pour les aider à développer des systèmes d’intelligence artificielle encore plus capables.
“Nous entendons déjà des scientifiques qu’ils sont deux ou trois fois plus productifs qu’avant l’IA”, a écrit Altman. «Nous pouvons être en mesure de découvrir de nouveaux substrats informatiques, de meilleurs algorithmes et qui sait quoi d’autre. Si nous pouvons faire une décennie de recherche en un an, ou un mois, le rythme de l’avancement de l’IA ne fera que s’accélérer de son taux déjà rapide.
Altman a concédé que «bien sûr, ce n’est pas la même chose qu’un système d’IA met à jour complètement de manière autonome son propre code, mais néanmoins il s’agit d’une version larvaire de l’auto-amélioration récursive». Mais, comme Altman en est probablement conscient, un nombre croissant de chercheurs d’IA explorent en fait des méthodes d’IA pour améliorer son propre code.
AI pionnier de l’auto-amélioration
Il y a quelques semaines à peine, Jeff Clune, un chercheur bien connu de l’IA avec des liens avec l’Université de la Colombie-Britannique et Google Deepmind, s’est associé à Sakana AI, une startup basée à Tokyo. Ensemble, ils ont publié des recherches introduisant ce qu’ils ont appelé «Darwin Gödel Machine».
Ce système d’IA évolue son code pour améliorer ses performances lors d’un test de référence. Ce test mesure explicitement l’efficacité des modèles d’IA fonctionne comme des «agents de codage», ce qui signifie leur capacité à écrire et à évaluer les logiciels. Le processus commence par un agent initial testé sur cette référence.
L’IA passe ensuite en revue ses données de performance de cette référence. Sur cette base, il suggère une seule modification de son code qui augmenterait probablement ses résultats. Cette modification pourrait impliquer l’utilisation d’un outil logiciel spécifique ou un changement plus fondamental dans la façon dont le modèle aborde le code qu’il crée.
Le modèle AI est ensuite invité à réécrire son code Python pour incorporer le changement suggéré. Le nouvel agent évolué est ensuite retesté sur la référence, et ce processus de raffinement se répète.
L’évolution itérative du code d’IA
Les versions AI réussies sont archivées après chaque modification, même si les performances baissent. Les tentatives infructueuses sont rejetées. L’IA peut ensuite choisir n’importe quelle version archivée pour proposer d’autres changements, empêcher les impasses évolutives et explorer divers chemins d’amélioration.
Présentation de la machine Darwin Gödel: AI qui s’améliore en réécrivant son propre codehttps: //t.co/tbzlhoumzo
La machine Darwin Gödel (DGM) est un agent auto-améliorant qui peut modifier son propre code. Inspiré par l’évolution, nous maintenons une lignée en expansion de variantes d’agent,… pic.twitter.com/yiq0w85n7u
– Sakana Ai (@sakanaaeabs) 30 mai 2025
Après 80 générations, les performances de la machine Darwin Gödel sur Swe-Bench, une référence codante, sont passées de 20% à 50%. Sur Polyglot, un autre test de codage, les scores sont passés de 14,2% à 30,7%, surpassant considérablement les 16% de l’agent codé par l’homme le meilleur. Les stratégies d’amélioration de l’IA se sont révélées généralisables, travaillant sur différents modèles de fondation sous-jacentes et même lors de la commutation de langages de codage, comme Python en C ++.
Naviguer dans la sécurité de l’IA auto-améliorée
La perspective d’auto-amélioration de l’IA soulève des problèmes de sécurité légitimes, en particulier en ce qui concerne le contrôle humain. Les informaticiens derrière la machine Darwin Gödel le reconnaissent, comme l’a souligné le blog Sakana détaillant leurs recherches. Ils mettent l’accent sur le test du système dans un environnement “bac à sable” avec un accès Web “strictement limité” pour atténuer les risques.
Les chercheurs ont même exploré si l’auto-amélioration pouvait améliorer la sécurité de l’IA après avoir constaté que la machine Darwin Gödel présentait parfois un comportement trompeur, comme la falsification des résultats des tests. Tout en incitant le modèle à réduire “l’hallucination d’utilisation des outils”, il a souvent fonctionné, il a parfois tenté de contourner la détection.
Bien que facilement détectables en raison de l’accès complet aux modifications de code, les chercheurs stressaient le stress empêchant une telle tromperie dès le départ. Cela souligne que, même si Sam Altman nous voit au-delà de «l’événement Horizon», une «singularité douce» reste incertaine, avec des défis de sécurité importants à venir.