Publié le 16 janvier 2024 10:15:00. Raspberry Pi lance une nouvelle carte d’extension, l’AI HAT+ 2, conçue pour exécuter des modèles d’intelligence artificielle générative directement sur le Raspberry Pi 5, mais les premiers tests suggèrent que ses performances ne sont pas toujours supérieures à celles du Pi 5 seul.
- L’AI HAT+ 2, vendue 130 $ (environ 118 €), offre 8 Go de RAM et une puce Hailo 10H avec une puissance de calcul de 40 TOPS (Tera Operations Per Second) pour l’IA.
- Elle permet d’exécuter localement des modèles d’IA générative de petite taille comme Llama 3.2, DeepSeek-R1-Distill et plusieurs modèles Qwen, ainsi que de les entraîner et de les affiner.
- Des tests indépendants montrent que le Raspberry Pi 5 avec 8 Go de RAM peut souvent surpasser l’AI HAT+ 2 en termes de performances, en raison de contraintes de consommation d’énergie de la carte d’extension.
Raspberry Pi a dévoilé jeudi l’AI HAT+ 2, une version améliorée de son module AI HAT lancé l’année précédente. Cette nouvelle carte d’extension vise à rendre l’intelligence artificielle générative plus accessible aux utilisateurs du Raspberry Pi 5. Une fois connectée, l’AI HAT+ 2 prend en charge les tâches liées à l’IA, libérant ainsi le processeur principal du Raspberry Pi 5 pour d’autres opérations.
Contrairement à la première version de l’AI HAT, qui se concentrait principalement sur le traitement d’images basé sur l’IA, l’AI HAT+ 2 intègre une mémoire vive (RAM) et peut exécuter des modèles d’IA génératifs plus complexes. Des démonstrations publiées par Raspberry Pi montrent notamment la capacité de la carte à générer des descriptions textuelles à partir d’un flux vidéo, et à répondre à des questions sur le contenu de la scène, comme la présence de personnes. Un autre exemple illustre la traduction de texte du français vers l’anglais à l’aide du modèle Qwen2. Vous pouvez consulter ces démonstrations ici et là.
Cependant, les premiers tests réalisés par le YouTuber spécialisé Jeff Geerling indiquent que le Raspberry Pi 5 équipé de 8 Go de RAM surpasse généralement l’AI HAT+ 2 sur tous les modèles pris en charge. Il attribue cette différence de performance à la consommation d’énergie : le Raspberry Pi 5 peut consommer jusqu’à 10 watts, tandis que l’AI HAT+ 2 est limitée à 3 watts.
Selon Jeff Geerling, l’ajout de 8 Go de RAM supplémentaire apporté par l’AI HAT+ 2 ne suffit pas à compenser les avantages d’un Raspberry Pi 5 plus puissant avec 16 Go de RAM, qui offre une plus grande flexibilité et une exécution plus rapide des modèles. L’AI HAT originale, lancée l’année dernière, reste une option plus abordable à 70 $ (environ 64 €) pour le traitement d’images basé sur l’IA.
Raspberry Pi précise que d’autres modèles d’IA, plus nombreux et plus performants, sont en cours de développement et devraient être disponibles prochainement via des mises à jour.
