L’intelligence artificielle, en plein essor, soulève une question cruciale : au-delà des règles et des réglementations, ne faut-il pas une véritable éthique pour guider son développement ? Le pape Léon XIV a récemment plaidé pour que les concepteurs d’IA cultivent un discernement moral, une requête qui, bien que dédaignée par certains, pourrait s’avérer essentielle.
Les gouvernements s’efforcent de suivre le rythme de cette révolution technologique. L’Union européenne a présenté sa loi sur l’IA, la tentative la plus ambitieuse à ce jour pour encadrer l’apprentissage automatique, tandis que les États-Unis ont élaboré leurs propres directives et plans. Les dirigeants de l’industrie évoquent des « garde-fous » et l’« alignement », privilégiant un discours axé sur la sécurité.
Cependant, ces mesures réglementaires, bien que nécessaires pour limiter les risques et garantir la responsabilité, ne suffisent pas à définir le type de monde que nous souhaitons construire. L’éthique, réduite à une simple question de conformité, devient alors stérile, une gestion des risques plutôt qu’une véritable réflexion morale. Ce qui manque, c’est une boussole, un guide moral et humain.
La question fondamentale n’est pas de savoir si les machines peuvent penser, mais si les humains peuvent encore choisir. Les algorithmes façonnent déjà nos lectures, nos investissements et nos sources de confiance. Les écrans, omniprésents dans notre quotidien, influencent nos émotions et même les résultats des élections. En confiant les décisions à des modèles de données, nous transférons la responsabilité morale du domaine humain à celui des machines.
Le danger réside moins dans le développement d’une intelligence artificielle trop poussée que dans notre propre renoncement à exercer notre jugement. Les technologues tentent souvent de traduire l’éthique en termes informatiques – alignement, couches de sécurité, boucles de rétroaction – mais la conscience ne se réduit pas à un paramètre ajustable. Elle se nourrit d’empathie, de culture et d’expérience.
Un enfant apprend le bien du mal non par la logique, mais par les relations, par l’amour, la correction et le pardon. De même, il apprend la responsabilité : chaque action a des conséquences, et la responsabilité est indissociable du choix. C’est le fondement de la croissance morale humaine, un processus que le calcul ne peut reproduire.
L’intelligence artificielle nous impose une nouvelle réflexion sur la dignité humaine, un concept plus ancien que toute technologie, mais curieusement absent de la plupart des débats. La dignité affirme que la valeur d’une personne est intrinsèque, indépendante des données ou de la production économique. Elle s’oppose à la logique d’optimisation et nous rappelle que tout ce qui peut être quantifié ne devrait pas nécessairement l’être.
Le financement joue un rôle déterminant. Les investisseurs ont, pendant des décennies, privilégié la rapidité et l’échelle, la croissance à tout prix. Or, les technologies qui émergent aujourd’hui ne sont pas neutres ; elles reflètent et amplifient nos valeurs. Si nous construisons des systèmes qui exploitent l’attention ou renforcent les préjugés, nous ne pouvons pas être surpris de voir la société devenir plus distraite et divisée.
Une diligence raisonnable éthique devrait être aussi courante que la diligence raisonnable financière. Avant de nous interroger sur l’ampleur d’une technologie, nous devrions nous demander quel type de comportement elle encourage, quelles dépendances elle crée et qui elle exclut. Ce n’est pas de l’idéalisme, mais une prospective pragmatique. La confiance sera la ressource rare du siècle de l’IA, et elle ne pourra être facilement rachetée une fois perdue.
Le défi actuel est de maintenir l’intelligence morale au même niveau que l’intelligence artificielle. Nous devons utiliser la technologie pour développer l’empathie, la créativité et la compréhension, et non pour réduire la complexité humaine à des modèles prédictifs. Il est tentant de construire des systèmes qui anticipent chaque choix, mais il est plus sage de préserver la liberté qui donne un sens au choix.
Il ne s’agit pas de glorifier le passé ou de résister à l’innovation. La technologie a toujours élargi le potentiel humain, ce qui est généralement positif. Aujourd’hui, nous devons veiller à ce que l’IA développe ce potentiel, et non à le diluer. En fin de compte, il ne s’agira pas de ce que les machines apprennent, mais de ce dont nous nous souviendrons : la responsabilité morale ne peut être déléguée, et la conscience, contrairement au code, ne peut pas fonctionner en pilote automatique.
Le projet moral de la prochaine décennie ne consistera pas à enseigner le bien et le mal aux machines, mais à nous le rappeler à nous-mêmes. Nous sommes la première génération capable de créer une intelligence qui peut évoluer sans nous. Cela ne doit pas inspirer la peur, mais l’humilité. L’intelligence sans empathie nous rend plus intelligents, pas plus sages ; le progrès sans conscience nous rend plus rapides, pas meilleurs.
Si chaque technologie porte en elle une philosophie, que la nôtre soit la suivante : la dignité humaine n’est pas un concept dépassé, mais un principe de conception. L’avenir ne sera pas façonné par l’intelligence de nos algorithmes, mais par la profondeur de notre imagination morale.