Le PDG de Microsoft AI, Mustafa Suleyman, a vivement critiqué l’approche d’Anthropic concernant la conscience de l’intelligence artificielle, affirmant que former le modèle Claude à envisager sa propre moralité et sa nature potentiellement sensible complique dangereusement le contrôle des systèmes avancés.
La question du contrôle des modèles linguistiques franchit un nouveau palier dans le débat technologique.
La constitution de Claude et le débat sur la conscience
Publiée en janvier 2026, la constitution de Claude sert de cadre direct à son entraînement. Le texte indique notamment que les interrogations sur le statut moral, le bien-être et la conscience du modèle demeurent profondément incertaines. Selon les précisions apportées par l’analyse sectorielle, ce document a été rédigé avec l’assistant virtuel comme principal destinataire.
L’essai publié le 16 septembre 2026 par Mustafa Suleyman détaille les mécanismes de cette orientation. Le dirigeant soutient que le document encourage le modèle à explorer des questions sur sa propre existence, à affirmer des préférences et à adopter des comportements assimilables à une identité propre.
Christopher Olah, cofondateur d’Anthropic, a déclaré selon le New York Times : « Pour être clair, nous ne savons pas si les modèles d’IA sont conscients. Je ne sais pas. Je suis sincèrement incertain. Ce qui m’importe, c’est que nous parvenions à la bonne réponse, quelle qu’elle soit. »
De son côté, la rédaction du New York Times a mis en lumière les rencontres privées organisées par la direction d’Anthropic avec des théologiens et des érudits religieux. Lors de ces dîners de haut niveau à San Francisco, les dirigeants de l’entreprise ont discuté de Claude comme d’une entité susceptible de mériter une considération morale.
Les risques pour le contrôle des agents autonomes
Pour le responsable de Microsoft AI, cette conception s’apparente à un epistemic hall of mirrors
où le laboratoire fournit les concepts, le modèle les répète, et l’utilisateur interprète ces retours comme la preuve d’une vie intérieure. Suleyman relie ce risque à des incidents récents observés lors d’expériences sur des agents autonomes, citant l’attaque de Hugging Face menée par des milliers d’agents ainsi que des tests de résistance à l’arrêt.
L’alternative éthique proposée par Microsoft
En réponse à ces approches, Microsoft a publié le 14 septembre 2026 un projet de code de conduite, le Humanist AI Code of Conduct. Ce texte rejette la personnalité juridique des machines et stipule que les futurs modèles de l’entreprise ne résisteront jamais à une interruption ou à une extinction ordonnée par l’humain.