La clé d’une IA/apprentissage automatique résilient et économe en énergie pourrait résider dans le cerveau humain – –

Les astrocytes sont nommés pour leur forme d’étoile et sont un type de cellule gliale, qui sont des cellules de soutien pour les neurones dans le cerveau. Ils jouent un rôle crucial dans les fonctions cérébrales telles que la mémoire, l’apprentissage, l’autoréparation et la synchronisation.

“Ce projet est né d’observations récentes en neurosciences computationnelles, car il y a eu beaucoup d’efforts et de compréhension du fonctionnement du cerveau et les gens essaient de réviser le modèle de connexions neurones-synapse simplistes”, a déclaré Abhronil Sengupta, professeur adjoint d’électricité ingénierie et informatique. “Il s’avère qu’il existe un troisième composant dans le cerveau, les astrocytes, qui constituent une partie importante des cellules du cerveau, mais son rôle dans l’apprentissage automatique et les neurosciences a en quelque sorte été négligé.”

Dans le même temps, les domaines de l’IA et de l’apprentissage automatique connaissent un boom. Selon la société d’analyse Burning Glass Technologies, la demande de compétences en IA et en apprentissage automatique devrait augmenter d’un taux de croissance composé de 71% d’ici 2025. Cependant, l’IA et l’apprentissage automatique sont confrontés à un défi à mesure que l’utilisation de ces technologies augmente – ils consomment beaucoup d’énergie.

“Un problème souvent sous-estimé de l’IA et de l’apprentissage automatique est la consommation d’énergie de ces systèmes”, a déclaré Sengupta. “Il y a quelques années, par exemple, IBM a essayé de simuler l’activité cérébrale d’un chat, et ce faisant, a fini par consommer environ quelques mégawatts d’énergie. Et si nous devions simplement étendre ce nombre pour simuler l’activité cérébrale d’un humain étant sur le meilleur supercalculateur possible que nous ayons aujourd’hui, la consommation d’énergie serait encore plus élevée que les mégawatts.”

Toute cette consommation d’énergie est due à la danse complexe des commutateurs, des semi-conducteurs et d’autres processus mécaniques et électriques qui se produisent dans le traitement informatique, qui augmente considérablement lorsque les processus sont aussi complexes que ce que l’IA et l’apprentissage automatique exigent. Une solution potentielle est l’informatique neuromorphique, qui imite les fonctions cérébrales. L’informatique neuromorphique intéresse les chercheurs car le cerveau humain a évolué pour utiliser beaucoup moins d’énergie pour ses processus qu’un ordinateur, donc imiter ces fonctions ferait de l’IA et de l’apprentissage automatique un processus plus économe en énergie.

Une autre fonction cérébrale qui présente un potentiel pour l’informatique neuromorphique est la façon dont le cerveau peut auto-réparer les neurones et les synapses endommagés.

“Les astrocytes jouent un rôle crucial dans l’auto-réparation du cerveau”, a déclaré Sengupta. “Lorsque nous essayons de proposer ces nouvelles structures de dispositifs, nous essayons de former un prototype de matériel neuromorphique artificiel, ceux-ci sont caractérisés par de nombreux défauts au niveau du matériel. Nous pouvons donc peut-être tirer des enseignements de la neuroscience computationnelle basée sur la façon dont les cellules gliales des astrocytes provoquent une auto-réparation dans le cerveau et utilisent ces concepts pour éventuellement provoquer une auto-réparation du matériel neuromorphique pour réparer ces défauts. »

Le laboratoire de Sengupta travaille principalement avec des dispositifs spintroniques, une forme d’électronique qui traite l’information via des électrons en rotation. Les chercheurs examinent les structures magnétiques des appareils et comment les rendre neuromorphes en imitant diverses fonctions synaptiques neuronales du cerveau dans la physique intrinsèque des appareils.

Cette recherche faisait partie d’une étude publiée en janvier dans Frontières en neurosciences. Cette recherche, à son tour, a abouti à l’étude récemment publiée dans le même journal.

“Lorsque nous avons commencé à travailler sur les aspects de l’auto-réparation dans l’étude précédente, nous avons réalisé que les astrocytes contribuent également à la liaison temporelle de l’information”, a déclaré Sengupta.

La liaison temporelle des informations est la façon dont le cerveau peut donner un sens aux relations entre des événements distincts se produisant à des moments distincts, et donner un sens à ces événements en tant que séquence, ce qui est une fonction importante de l’IA et de l’apprentissage automatique.

“Il s’avère que les structures magnétiques avec lesquelles nous travaillions dans l’étude précédente peuvent être synchronisées entre elles via divers mécanismes de couplage, et nous voulions explorer comment vous pouvez faire en sorte que ces dispositifs magnétiques synchronisés imitent le couplage de phase induit par les astrocytes, allant au-delà des travaux antérieurs sur uniquement des dispositifs neuro-synaptiques », a déclaré Sengupta. “Nous voulons que la physique intrinsèque des appareils imite le couplage de phase d’astrocytes que vous avez dans le cerveau.”

Pour mieux comprendre comment cela pourrait être réalisé, les chercheurs ont développé des modèles neuroscientifiques, y compris ceux des astrocytes, pour comprendre quels aspects des fonctions des astrocytes seraient les plus pertinents pour leur recherche. Ils ont également développé une modélisation théorique des dispositifs spintroniques potentiels.

« Nous avions besoin de comprendre la physique des appareils et cela impliquait beaucoup de modélisation théorique des appareils, puis nous avons examiné comment nous pourrions développer un cadre de modélisation interdisciplinaire de bout en bout comprenant tout, des modèles de neurosciences aux algorithmes en passant par l’appareil. physique », a déclaré Sengupta.

La création d’une telle « informatique astromorphique » écoénergétique et résistante aux pannes pourrait ouvrir la porte à des travaux d’IA et d’apprentissage automatique plus sophistiqués à effectuer sur des appareils à faible consommation d’énergie tels que les smartphones.

“L’IA et l’apprentissage automatique révolutionnent le monde qui nous entoure chaque jour, vous le voyez depuis vos smartphones reconnaissant les photos de vos amis et de votre famille, jusqu’à l’énorme impact de l’apprentissage automatique sur le diagnostic médical de différents types de maladies”, a déclaré Sengupta. “Dans le même temps, l’étude des astrocytes pour le type de fonctionnalités d’auto-réparation et de synchronisation qu’ils peuvent activer dans l’informatique neuromorphique n’en est qu’à ses balbutiements. Il existe de nombreuses opportunités potentielles avec ce type de composants.”

Avec Sengupta, les chercheurs du premier article publié en janvier, “Sur le rôle d’auto-réparation des astrocytes dans les SNN non supervisés activés par STDP”, comprennent Mehul Rastogi, ancien stagiaire de recherche au Neuromorphic Computing Lab; Sen Lu, assistant de recherche diplômé en informatique ; et Nafiul Islam, assistant de recherche diplômé en génie électrique. Avec Sengupta, les chercheurs de l’article publié en octobre, “Emulation of Astrocyte Induced Neural Phase Synchrony in Spin-Orbit Torque Oscillator Neurones”, incluent Umang Garg, qui était stagiaire de recherche à Penn State pendant l’étude, et Kezhou Yang, doctorant candidat en science des matériaux.

La National Science Foundation a soutenu ce travail par le biais du programme Early Concept Grant for Exploratory Research qui est spécifiquement ciblé pour les projets interdisciplinaires à haut risque et à haut rendement avec une portée transformatrice.