L’industrie technologique fait face à des tensions croissantes concernant la vitesse fulgurante de ses avancées.
Les deux menaces majeures pour l’avenir de l’intelligence artificielle
Dans une série de messages publiés sur la plateforme X, Sam Altman a souligné que les progrès de la technologie pourraient très mal tourner si certaines dérives ne sont pas évitées. L’entrepreneur a rappelé que l’entreprise se positionne sans ambiguïté du côté de l’humanité, affirmant que les outils numériques doivent impérativement rester au service des personnes.
Sam Altman, en tant que directeur général d’OpenAI, a déclaré via NDTV que nous pourrions d’abord perdre le contrôle de l’avenir au profit de l’intelligence artificielle, que c’était inacceptable, que nous étions résolument du côté de l’humanité et que l’intelligence artificielle devait toujours servir les personnes.
La première crainte réside dans l’incapacité potentielle des hommes à maîtriser des systèmes devenus surpuissants. La seconde concerne une concentration excessive du pouvoir, qu’il s’agisse d’un laboratoire unique, d’une seule entreprise ou d’une seule nation s’arrogeant une influence démesurée.
Sam Altman, directeur général d’OpenAI, a affirmé via Malaysia Sun que si une intelligence artificielle extraordinairement puissante était utilisée par une personne ou une entreprise pour imposer sa vision du monde à tout le monde, les résultats pourraient être extrêmement dystopiques.
Le débat sur le ralentissement du rythme et les exigences de sécurité
Ces déclarations font écho aux prises de position d’autres figures du secteur, notamment Dario Amodei, le dirigeant d’Anthropic, qui a récemment plaidé pour un ralentissement délibéré du développement des modèles de pointe.
Pour concilier innovation et prudence, Altman défend une voie médiane étroite. Il précise que ce rythme mesuré ne signifie pas l’arrêt total des recherches, mais une régulation plus rigoureuse où les dispositifs de sécurité devancent l’augmentation brute des capacités.
Sam Altman, directeur général d’OpenAI, a expliqué via le Daily Mail que lorsque nous parlons de rythme, nous ne voulons pas dire arrêt, que les progrès ont été rapides et continueraient de l’être, mais qu’ils devraient l’être plus lentement qu’ils ne pourraient l’être autrement.
Les répercussions financières et la pression des départs au sein des laboratoires
Accepter de ralentir et d’imposer des contraintes techniques strictes engendre des coûts élevés, tant en matière de surveillance qu’en analyses d’alignement. Néanmoins, le responsable d’OpenAI estime que cette cadence prudente est pleinement justifiée, estimant qu’aucun impératif concurrentiel américain ne doit légitimer la témérité.
Jacob Coxon, un chercheur ayant quitté ses fonctions chez Anthropic et OpenAI, a publiquement déclaré que les entreprises du secteur mènent une course aveugle vers une superintelligence susceptible de mettre en péril l’avenir de l’humanité.
Vers une gouvernance fédérale et des audits indépendants
Face à ces risques existentiels, les principaux acteurs étudient de nouveaux mécanismes de contrôle. OpenAI se dit favorable à un cadre réglementaire fédéral unifié fixant des critères de sécurité constants pour les laboratoires de pointe, tout en saluant le recours à des auditeurs externes indépendants pour évaluer les pratiques de développement.
Du côté de Microsoft, le président et directeur général Satya Nadella a également appuyé l’intégration d’évaluateurs internes et rappelé que la quête d’une superintelligence doit demeurer strictement subordonnée au contrôle et à l’utilité humaine, tandis que les gouvernements devront coordonner les efforts internationaux pour encadrer cette transition technologique.
Pour aller plus loin