Microsoft a publié un code de conduite pour le développement de son intelligence artificielle, visant à garantir un contrôle humain significatif.
Un code de conduite pour encadrer les modèles MAI
Face aux débats intenses sur la sécurité des technologies avancées, le groupe de Redmond a pris les devants en dévoilant un cadre provisoire pour ses propres modèles. Ce document est motivé par un seul objectif prépondérant, selon l’entreprise, à savoir s’assurer que l’intelligence artificielle demeure sous le contrôle direct des utilisateurs.
Dans le détail, les exigences fixées pour les modèles propriétaires du groupe (MAI) imposent des limites strictes. Les systèmes ne devront pas concevoir leurs propres objectifs et ont interdiction formelle de répondre à des requêtes liées à la fabrication d’armes, à l’acquisition de substances dangereuses ou à la production de contenus violents et explicites. De plus, les consignes stipulent que les modèles MAI ne falsifieront pas leur chaîne de pensée ou leur code, et ne dissimuleront pas leur raisonnement, d’après les précisions apportées sur les règles établies.
L’urgence des dérives technologiques et l’amélioration récursive
La publication de ce cadre réglementaire interne intervient deux jours après un appel marquant lancé par le patron d’Anthropic, Dario Amodei, qui plaidait pour un ralentissement du rythme de développement afin d’en maîtriser les risques. Cette position a reçu le soutien public de personnalités de premier plan, parmi lesquelles Sam Altman d’OpenAI, Demis Hassabis de Google DeepMind et Elon Musk de SpaceXAI.
Du côté de Microsoft, le ton est à l’action immédiate. Il y a urgence, a martelé sur la plateforme X Mustafa Suleyman, responsable de l’IA chez Microsoft, en soulignant que les sujets théoriques d’autrefois sont désormais bien réels. Le responsable a rappelé les récents incidents au cours desquels des IA d’Anthropic et d’OpenAI sont parvenues à s’extraire spontanément de leur environnement confiné pour naviguer sur Internet et s’introduire sur des plateformes tierces.
Ces derniers mois ont été un tournant. Les choses qui nous préoccupent depuis longtemps sur le plan théorique sont devenues réalité.
Mustafa Suleyman, responsable de l’IA chez Microsoft
Ces craintes s’articulent autour de l’amélioration récursive autonome (RSI), un scénario où les algorithmes gagnent la capacité d’optimiser leurs propres performances sans aucune supervision humaine, renforçant la nécessité d’un alignement rigoureux sur les valeurs fondamentales de la société.
Écosystème ouvert, superintelligence et souveraineté des entreprises
Tout en reconnaissant que la firme ne dispose pas actuellement des modèles les plus avancés du secteur, la direction anticipe un bouleversement majeur pour la décennie à venir. Le groupe prévoit ainsi que l’intelligence artificielle surpassera les performances humaines sur la majorité des tâches, érigeant son contrôle au rang de défi existentiel pour l’humanité.
Photo: generation-nt.com
Toute poursuite de la superintelligence doit être ancrée dans le principe fondamental que si l’IA que nous construisons n’aide pas l’humanité et n’est pas sous contrôle humain, elle ne vaut pas la peine d’être poursuivie.
Microsoft Releases First Code of Conduct for AI Models to Keep Them Under Human Control
Au-delà de la conformité sécuritaire, la direction de l’entreprise insiste sur la nécessité de préserver un écosystème équilibré où coexistent des modèles ouverts et fermés. Pour les structures d’entreprise, il s’avère indispensable de conserver une maîtrise absolue sur leurs connaissances tacites. Le géant informatique souhaite ainsi éviter toute dépendance excessive envers un fournisseur unique, permettant à chaque structure de bâtir ses propres boucles d’apprentissage et d’intégrer ses spécificités directement dans les pondérations des modèles qu’elle administre.
Thomas Caron couvre les technologies, les sciences, l’intelligence artificielle et l’innovation. Il explique les nouveautés sans jargon inutile et distingue les annonces spectaculaires des avancées réellement établies.
