Publié le 27 septembre 2025 à 21h02. Des chercheurs ont développé de nouveaux modèles analytiques permettant d’optimiser la consommation énergétique des accélérateurs de bord, comme ceux utilisés dans l’intelligence artificielle, sans sacrifier les performances, ouvrant la voie à un calcul plus durable et efficace.
- L’étude révèle que les modes d’alimentation par défaut des appareils ne sont pas toujours les plus économes en énergie.
- De nouveaux modèles, appelés « lignes de toit », permettent de prédire et d’optimiser les performances en fonction du calcul, de l’accès à la mémoire et de la consommation d’énergie.
- Les chercheurs ont démontré qu’un réglage précis des paramètres des appareils peut réduire considérablement la consommation d’énergie, jusqu’à 15 %, avec un impact minimal sur la vitesse d’inférence.
La demande croissante en intelligence artificielle (IA) embarquée, c’est-à-dire exécutée directement sur des appareils en périphérie du réseau, stimule le développement d’accélérateurs matériels dédiés. Comprendre les limites de performance de ces accélérateurs est essentiel pour déployer efficacement des réseaux de neurones profonds. Une équipe de recherche, menée par Prashanthi SK, Kunal Kumar Sahoo et Amartya Ranjan Saikia, s’est penchée sur les caractéristiques énergétiques et temporelles de ces dispositifs, en particulier le Nvidia Jetson Agx Orin, en les soumettant à différentes charges de travail.
Leur travail a abouti à la création de nouveaux modèles analytiques, baptisés « lignes de toit », qui mettent en évidence les relations fondamentales entre la puissance de calcul, l’accès à la mémoire et la consommation d’énergie, tant pour les tâches d’inférence que pour celles d’apprentissage. Ces modèles permettent de visualiser les limites de performance en fonction du débit de calcul et de la bande passante de la mémoire.
Les chercheurs ont exploré différentes extensions du modèle de base de la ligne de toit, notamment une ligne de toit basée sur le temps d’exécution, une ligne de toit tenant compte des hiérarchies de cache et une ligne de toit intégrant la consommation d’énergie. L’intensité arithmétique, c’est-à-dire le rapport entre le nombre d’opérations à virgule flottante et le nombre d’accès à la mémoire, s’avère être une métrique cruciale. Les modèles présentant des caractéristiques différentes ont un impact variable sur les performances selon les plateformes matérielles utilisées.
L’étude examine également l’application de ces considérations de performance aux scénarios d’apprentissage fédéré, une technique permettant d’entraîner des modèles d’IA sur des données distribuées sans les centraliser, et à la tolérance aux défauts matériels. La bande passante de la mémoire constitue souvent un goulot d’étranglement pour l’inférence en apprentissage profond, en particulier pour les modèles à faible intensité arithmétique, un défi particulièrement marqué sur les appareils de bord disposant de ressources mémoire limitées.
Pour améliorer les performances et réduire l’empreinte mémoire, les chercheurs ont étudié des techniques d’optimisation telles que la quantification, l’élagage, la fusion de noyaux et l’utilisation de noyaux tenseurs. Ils ont également exploré la mise à l’échelle dynamique de la tension pour réduire la consommation d’énergie. Leurs expérimentations ont porté sur une variété de modèles et d’ensembles de données, notamment la classification d’images avec Resnet et MobileNet, la détection d’objets avec Yolov8 et le traitement du langage naturel avec LSTMS et Bert, en utilisant des ensembles de données tels que Wikitext et Squad. Des expériences d’apprentissage fédéré ont été menées avec l’ensemble de données GLDV2V, en utilisant Nvidia Cuda, Nsight Compute et l’outil de ligne de toit empirique, ainsi que Tensorflow et Pytorch.
Les orientations de recherche futures incluent le développement de modèles de lignes de toit plus sophistiqués, l’automatisation du réglage des performances, la priorisation de l’optimisation en termes d’énergie, le développement de techniques d’inférence tolérantes aux pannes et l’application de l’analyse de la ligne de toit à l’apprentissage fédéré, en particulier pour l’inférence de modèles de langage de grande taille sur les accélérateurs de bord. L’équipe de recherche a souligné l’importance de comprendre les raisons fondamentales des variations de performance à travers les différents modes d’alimentation, et a ainsi créé une ligne de toit temporelle et un nouveau modèle de ligne de toit énergétique spécifiquement pour le Jetson Orin Agx.
En analysant minutieusement l’impact des fréquences variables du CPU, du GPU et de la mémoire sur les différentes couches des réseaux de neurones, les chercheurs ont pu optimiser le mode d’alimentation des appareils de bord, réduisant la consommation d’énergie jusqu’à 15 % sans dégrader significativement le temps d’inférence. Ces modèles analytiques prédisent avec précision les performances des réseaux de neurones, offrant ainsi des perspectives sur la manière d’optimiser la configuration des appareils pour des tâches spécifiques, et démontrant le potentiel de repousser les limites des performances des appareils en ajustant les modes d’alimentation plutôt qu’en modifiant le réseau neuronal lui-même.
Sur le même sujet
