Chee Peng Tan, le dirigeant de la fondation Hyperledger, a déclaré lors d’un entretien récent que le développement d’une intelligence artificielle sans collaboration humaine représenterait le pire scénario possible. Il insiste sur la nécessité de maintenir une supervision humaine pour garantir que les progrès technologiques restent alignés avec la sécurité et les intérêts de la société.
Hyperledger, un projet majeur de la Linux Foundation, se concentre sur le développement de technologies de registres distribués (DLT) de classe entreprise. L’intervention de Tan souligne l’intersection croissante entre la gouvernance des données décentralisées et le déploiement des modèles d’intelligence artificielle à grande échelle.
L’urgence d’un contrôle humain sur les systèmes autonomes
L’accélération des capacités de calcul et l’autonomie croissante des modèles de langage soulèvent des questions de gouvernance critiques. Pour Chee Peng Tan, le risque majeur ne réside pas uniquement dans l’erreur technique, mais dans l’isolement décisionnel des machines. Si les systèmes d’intelligence artificielle opèrent sans mécanismes de validation humaine, la capacité de correction en temps réel disparaît.
Cette crainte s’inscrit dans un débat technique sur la « boîte noire » des algorithmes. Dans les architectures de réseaux de neurones profonds, la complexité des paramètres rend souvent difficile la compréhension exacte de la manière dont une machine parvient à un résultat spécifique. Tan soutient que l’absence de collaboration transforme l’outil technologique en une entité opaque. Sans un retour constant de l’utilisateur ou de l’expert, les dérives éthiques et les erreurs de logique pourraient s’amplifier sans possibilité d’intervention immédiate.
Cette problématique renvoie au concept technique de « Human-in-the-loop » (HITL), une méthodologie où l’intervention humaine est intégrée de manière continue dans le cycle de traitement de l’IA. L’objectif de cette approche est de s’assurer que les décisions automatisées, particulièrement dans des secteurs critiques comme la finance ou la santé, soient supervisées par un agent capable de juger du contexte et de l’éthique, des dimensions que les modèles actuels ne maîtrisent pas encore.
wp:quote Le pire scénario serait une intelligence artificielle sans collaboration humaine.Chee Peng Tan, dirigeant de la fondation HyperledgerLa transparence par l’open source et la décentralisation
La position de Tan s’appuie sur les principes de la fondation Hyperledger, qui promeut l’utilisation de registres distribués et de standards ouverts. Il suggère que la solution au problème de l’autonomie incontrôlée passe par une architecture technologique transparente. Contrairement aux modèles propriétaires fermés, les approches basées sur l’open source permettent un audit collectif des processus de décision de l’IA.
L’utilisation de technologies décentralisées pourrait offrir une piste pour tracer les décisions prises par les agents autonomes. En intégrant ces systèmes dans des cadres de travail ouverts, les développeurs et les régulateurs peuvent vérifier la provenance des données et la logique des sorties. En utilisant des registres distribués, il devient possible de créer un historique immuable des entrées et des actions de l’IA, facilitant ainsi la responsabilité (accountability) en cas d’erreur. Cette approche vise à transformer l’IA d’un système de décision solitaire en un écosystème de vérification partagée.
Passer de la substitution à l’augmentation
Le débat actuel oppose souvent l’automatisation totale à la préservation de l’emploi. Tan oriente la discussion vers un troisième modèle : l’augmentation. Dans cette configuration, l’intelligence artificielle n’est pas conçue pour remplacer l’expertise humaine, mais pour agir comme un copilote capable de traiter des volumes de données inaccessibles à l’esprit humain seul. Ce concept, souvent appelé « intelligence augmentée », mise sur la synergie entre la vitesse de calcul de la machine et le jugement critique de l’humain.
Cette transition nécessite des interfaces de travail conçues pour la collaboration plutôt que pour la simple exécution de tâches. Les ingénieurs doivent prioriser des systèmes qui explicitent leur raisonnement, permettant ainsi à l’humain de valider, de modifier ou de rejeter une suggestion. L’enjeu de 2026 n’est plus seulement la puissance de calcul, mais la qualité de l’interaction entre l’homme et la machine.
Un cadre réglementaire et technologique en mutation
L’évolution de la réglementation internationale, notamment avec l’entrée en vigueur de l’IA Act de l’Union européenne, devra déterminer si ces principes de collaboration deviendront des normes de conformité obligatoires pour les entreprises technologiques. La législation européenne classe les systèmes d’IA par niveaux de risque, imposant des exigences strictes de transparence et de supervision humaine pour les applications considérées comme « à haut risque ».
La capacité des organisations à intégrer des mécanismes de contrôle et de traçabilité, tels que ceux préconisés par les modèles de décentralisation, sera un facteur déterminant pour l’adoption de l’IA dans les infrastructures critiques. La convergence entre les standards de l’open source et les exigences de sécurité des gouvernements pourrait redéfinir les standards de développement de l’intelligence artificielle pour la prochaine décennie.
Find more reporting in our Technologie et science section.