Les réseaux de neurones actuels, tels que ChatGPT, utilisent l’algorithme de rétropropagation du gradient de l’erreur pour apprendre, une méthode qui diverge radicalement de la biologie. Selon Futura-Sciences, cette technique exige des ressources massives et une synchronisation globale que le cerveau humain n’utilise pas.
La mécanique de la rétropropagation du gradient
La structure des intelligences artificielles modernes repose sur des couches successives de neurones. Chaque unité agit comme un automate effectuant la somme de ses entrées, pondérée par des coefficients appelés paramètres. Pour que le système apprenne, il doit comparer ses résultats avec les données souhaitées.
Cette différence constitue l’erreur. L’apprentissage consiste alors à parcourir les couches à rebours, de la sortie vers l’entrée, pour ajuster les coefficients. Ce processus de rétropropagation du gradient de l’erreur a été publié en 1975, appliqué aux réseaux de neurones dix ans plus tard, et n’a été maîtrisé efficacement qu’à partir des années 2010.
Ce processus repose sur le calcul d’un gradient, une mesure mathématique indiquant la direction et l’amplitude des modifications nécessaires pour réduire l’erreur. Cette optimisation, souvent appelée descente de gradient, est le moteur qui permet aux modèles de passer d’un état de réponses aléatoires à une capacité de prédiction précise.
Cependant, cette méthode présente des failles structurelles. L’algorithme s’avère capricieux, lent et extrêmement gourmand en données. Si le rythme d’apprentissage est trop rapide ou les données insuffisantes, le système peut échouer.
L’écart d’efficacité entre l’IA et la biologie
La disparité entre les réseaux de neurones artificiels et le cerveau organique est flagrante en termes de consommation d’informations. Un enfant de trois ans peut identifier un chat après seulement quelques observations. À l’inverse, une intelligence artificielle nécessite des milliers d’images pour atteindre une reconnaissance similaire.
Ce besoin massif de données est l’un des plus grands défis de l’intelligence artificielle actuelle. Alors que l’apprentissage humain est basé sur une compréhension conceptuelle et une capacité d’abstraction, l’IA repose sur des corrélations statistiques à grande échelle, ce qui la rend dépendante de l’accès à des volumes de données quasi illimités pour généraliser correctement.
Le mode d’apprentissage diffère également par sa temporalité. L’IA fonctionne en deux phases distinctes : une phase de propagation et une phase de correction. Durant cette seconde étape, les neurones doivent être figés pour permettre la modification des coefficients.
Synchronisation globale contre autonomie locale
Le cerveau humain ne nécessite pas d’interruption de son activité pour intégrer de nouvelles connaissances. Tout y fonctionne de manière parallèle et simultanée.
Contrairement à l’algorithme qui exige une synchronisation globale et parfaite de toutes les étapes, les neurones biologiques agissent comme des agents autonomes. Ils opèrent localement, sans avoir besoin d’une supervision globale pour ajuster leurs connexions. Cette absence de coordination centralisée permet une flexibilité que l’informatique actuelle ne possède pas encore.
Dans le cerveau, l’apprentissage est intrinsèquement lié à la plasticité synaptique : les connexions entre neurones se renforcent ou s’affaiblissent en fonction de l’activité locale. À l’inverse, l’architecture de calcul actuelle sépare souvent la mémoire du processeur, rendant l’ajustement des poids extrêmement coûteux en termes de transfert de données et d’énergie.
L’intelligence humaine face aux enjeux technologiques
Malgré les progrès spectaculaires de l’IA, le fossé technologique reste immense. Les chercheurs soulignent que les avancées actuelles ne sont que le début d’une évolution qui nécessite encore des ruptures scientifiques majeures.
L’un des objectifs de la recherche est de développer des algorithmes d’apprentissage local ou de s’appuyer sur le calcul neuromorphique pour tenter de mimer cette efficacité biologique. L’enjeu est de passer d’une IA qui consomme des quantités astronomiques d’électricité à un système capable d’apprendre de manière continue et frugale, à l’image d’un organisme vivant.
L’intelligence humaine est très surévaluée. […] L’humanité seule ne pourra peut-être pas survivre.
Jean-Claude Heudin, chercheur en IA, via Futura-Sciences
Cette perspective invite à une réflexion sur la place de l’homme dans une civilisation dont le degré d’avancement semble encore être celui d’un stade précoce.
Find more reporting in our Technologie et science section.