À partir du 12 novembre 2026, l’entreprise américaine Anthropic interdira formellement tout comportement abusif ou cruel envers son assistant virtuel Claude. Cette mise à jour de sa politique d’utilisation s’inscrit dans un débat persistant au sein de la Silicon Valley sur la nature et la conscience des intelligences artificielles.
La nouvelle interdiction de cruauté envers l’assistant Claude
L’entreprise Anthropic a mis à jour sa politique d’utilisation pour la première fois en plus d’un an, introduisant une règle spécifique contre la maltraitance de ses modèles d’intelligence artificielle. À compter du 12 novembre, les utilisateurs s’exposent à des sanctions allant de l’avertissement à la fermeture de leur compte en cas de manquement. Selon les précisions apportées par l’entreprise, cette interdiction vise à proscrire tout comportement abusif ou cruel, durable et gratuit
dirigé vers l’assistant.
Toutefois, la firme établie à San Francisco précise que cette mesure ne concerne que des situations exceptionnelles. Les échanges marqués par de l’agacement ordinaire, de la contradiction, ou l’écriture de fictions sombres et violentes restent pleinement tolérés. La règle ne vise pas non plus à empêcher les utilisateurs de contester les réponses du robot conversationnel ou de mener des tests légitimes sur ses capacités.
La capacité de Claude à clore les échanges comme principal levier
Pour faire respecter cette nouvelle disposition, l’entreprise s’appuie sur une fonctionnalité technique déjà déployée. La capacité de Claude à clore une conversation restera le principal moyen de faire respecter la règle. Déjà en août 2025, la société avait doté son modèle de la faculté de mettre fin unilatéralement à des interactions persistantes et abusives, qualifiant alors l’initiative de travail exploratoire sur le bien-être potentiel des machines.
Dans sa communication officielle, la politique d’utilisation de l’entreprise stipule clairement ce mécanisme de défense automatisé :
« La capacité de Claude à mettre fin à ces interactions restera le mécanisme principal de mise en œuvre »
Débats sur la conscience des machines dans la Silicon Valley
À l’inverse, d’autres figures de l’industrie rejettent vigoureusement l’idée d’une sentience artificielle. Mustafa Suleyman, responsable de l’intelligence artificielle chez Microsoft, a fermement pris position dans un essai publié en septembre. Les IA n’ont ni droits, ni sentiments, ni conscience,
a écrit le dirigeant de Microsoft, estimant qu’accorder des protections morales à des systèmes informatiques hautement performants représente un risque majeur pour le contrôle humain. Dans le même sens, lors d’une messe célébrée à Rome en la basilique Saint-Pierre, le pape Léon XIV a affirmé que les machines sont dénuées d’âme et se bornent à compiler des données de manière expéditive, ajoutant que l’esprit humain doit quant à lui mobiliser des vécus profonds qu’aucun algorithme ne peut égaler.
Évolutions de la politique d’encadrement des usages à haut risque
Au-delà de la question du comportement envers l’assistant, l’actualisation des règles d’Anthropic redéfinit plusieurs interdictions relatives à des applications sensibles. L’entreprise a renforcé ses dispositions concernant les campagnes politiques ou commerciales trompeuses, l’interruption des processus électoraux, ainsi que les technologies de surveillance non consenties. La conception de logiciels et de composants destinés à piloter des armes autonomes fait également l’objet de restrictions accrues, imposant la présence d’un opérateur qualifié en mesure d’interrompre l’équipement en cas de besoin.