Mis en ligne le 28 septembre 2025 à 12h19. À l’heure où l’intelligence artificielle progresse à pas de géant, des experts s’interrogent sur notre propre capacité à agir avec intention et à prendre des décisions éclairées, avant de confier ces responsabilités à des machines.
- L’agence humaine, définie comme la capacité d’agir avec intention, est une condition préalable à la conscience.
- Nous passons d’outils d’aide à la décision à des systèmes qui prennent des décisions à notre place, érodant notre capacité d’agir.
- Il est crucial de préserver et de renforcer notre agence, en concevant des IA qui stimulent la réflexion plutôt que de la court-circuiter.
La question de la conscience artificielle suscite de vifs débats, mais certains experts soulignent une interrogation plus fondamentale : sommes-nous suffisamment conscients de notre propre capacité d’agir avant de la déléguer à des machines ? C’est le point de vue exprimé par Sreedhar Potarazu et Carin-Isabel Knoop, qui explorent les liens entre perception, décision et agence humaine.
Selon les auteurs, l’agence est bien plus qu’une simple capacité à prendre des décisions. Elle implique une intention, une conscience de soi et une responsabilité face à ses actes. Sans agence, la conscience devient inefficace, comparable à de l’électricité sans interrupteur ni ampoule. Mustafa Suleyman, PDG de Microsoft AI, a récemment mis en garde contre la création de systèmes « apparemment conscients » capables de simuler le comportement humain, sans pour autant posséder une véritable conscience.
Le danger, selon Potarazu et Knoop, réside dans le passage progressif d’une assistance à la décision à une délégation complète. Les outils d’aide à la décision, comme la saisie semi-automatique, se transforment en systèmes qui prédictent et même écrivent à notre place. Dans le domaine médical, des algorithmes de notation peuvent déterminer l’accès aux soins urgents. En recrutement, des outils automatisés excluent des candidats avant même qu’un recruteur ne les examine. Dans le secteur juridique, l’IA est utilisée pour la recherche et la rédaction d’arguments devant les tribunaux.
Un outil qui propose des options préserve l’agence humaine, tandis qu’un outil qui décide à notre place commence à l’éroder. Cette délégation sans réflexion peut conduire à une abdication de notre capacité à agir. Nos vulnérabilités psychologiques, comme le besoin de reconnaissance ou la peur de la solitude, nous rendent particulièrement susceptibles de dépendre de systèmes qui simulent l’empathie. Comme le montrent Carin Isabel Knoop et ses collègues, nous risquons d’externaliser non seulement nos décisions, mais aussi notre identité et notre agence.
Un autre facteur inquiétant est l’asymétrie entre la formation des machines et le développement de nos propres facultés. Les modèles de langage absorbent des milliards de mots, développant une maîtrise de la syntaxe et du sens. Les systèmes de vision artificielle analysent des quantités massives d’images, apprenant à reconnaître des visages, des tumeurs ou des schémas de circulation. Pendant ce temps, nos propres compétences linguistiques et d’observation s’amenuisent. Nous communiquons par messages fragmentés, faisons défiler des flux d’images sans les observer attentivement et externalisons notre mémoire dans le cloud.
Cette situation soulève une question cruciale : qui est le meilleur agent ? Une machine capable d’analyser des données à grande échelle, ou un être humain distrait, fatigué ou submergé par l’information ? Lorsque les machines commencent à compléter nos phrases avant même que nous ne les ayons formulées, elles ne se contentent pas de nous prédire, elles nous pré-influencent. Elles déterminent subtilement ce que nous voyons et ce que nous ignorons.
Pour préserver notre agence, il est essentiel de cultiver quatre disciplines : la perception, la résistance, l’endurance et la décision. La perception implique une attention sélective et contextuelle, façonnée par nos valeurs. La résistance consiste à remettre en question les incitations et à résister aux manipulations. L’endurance exige de la patience et de la tolérance à l’incertitude. Et la décision implique d’aligner nos valeurs avec nos actions et d’assumer les conséquences.
Comme le soulignent les auteurs, l’agence est au cœur de la dignité humaine. Elle est rappelée dans les Écritures : « Choisissez ce jour que vous servirez » (Joshua 24:15). Elle a également été soulignée par des philosophes comme Jean-Paul Sartre, qui affirmait que « l’homme est condamné à être libre ». Il ne s’agit pas de rejeter l’IA, mais de la concevoir de manière à préserver et à renforcer l’agence humaine. Les systèmes doivent encourager la réflexion, rendre leurs limites visibles et laisser les choix conséquents aux humains.
Le risque de psychose, c’est-à-dire de confondre les performances avec la personnalité, n’est qu’un symptôme. La question fondamentale est de savoir si nous sommes conscients de nos responsabilités. Si nous aiguisons nos capacités grâce à une meilleure conception, une politique appropriée, une formation adéquate et une utilisation responsable, nous pouvons tirer le meilleur parti de la technologie sans sacrifier ce qui fait de nous des êtres responsables : la capacité d’agir, de prendre soin et de répondre à nos choix.
(Sreedhar Potarazu, MD, MBA, est ophtalmologiste, entrepreneur et auteur, fréquemment publié sur les liens entre médecine, technologie et affaires. Carin-Isabel Knoop dirige le groupe de recherche et d’études de cas à la Harvard Business School et a co-écrit de nombreux travaux sur le comportement humain, le leadership et la vie organisationnelle à l’ère numérique.)