Bref: Les modèles de petits langues sont généralement plus compacts et efficaces que les LLM, car ils sont conçus pour fonctionner sur des appareils matériels ou bords locaux. Microsoft apporte désormais un autre SLM à Windows 11, car les utilisateurs ont apparemment besoin de quelques conseils alimentés par l’IA pour les aider à trouver des paramètres de système d’exploitation spécifiques et à personnaliser leur expérience PC.
Microsoft a récemment annoncé Muun nouveau modèle de petit langage conçu pour s’intégrer à l’expérience de l’interface utilisateur de Windows 11. MU fonctionnera aux côtés de Phi Silica – le modèle de langue précédemment introduit sur Copilot + PC – pour alimenter la fonction d’agent AI dans les paramètres Windows que l’entreprise est actuellement en développement.
Comme Phi Silica, MU fonctionnera entièrement sur l’unité de traitement neuronal du système, offrant des réponses à plus de 100 jetons par seconde, ce qui devrait fournir une expérience utilisateur fluide dans les paramètres.
Microsoft décrit MU comme un modèle efficace de 330 millions paramètres optimisé pour les déploiements à petite échelle. Il est basé sur une architecture d’encodeur de transformateur, où l’encodeur convertit l’entrée de l’utilisateur en une représentation latente de longueur fixe, et le décodeur génère des jetons de sortie à partir de cette représentation.
Microsoft a conçu MU comme un « frère » hautement optimisé en silice Phi, en utilisant plusieurs techniques pour réduire le nombre de paramètres et améliorer l’efficacité. Le SLM a été formé à l’aide d’un nombre non spécifié de GPU A100 sur la plate-forme d’apprentissage automatique Azure, progressant à travers plusieurs phases et appliquant des techniques que Redmond a développées pendant le travail sur les modèles PHI.
https://www.youtube.com/watch?v=a2getqes0pw
Après avoir affiné le modèle, les développeurs ont constaté que MU offre des performances presque comparables à PHI-3,5-MINI, bien qu’il ne soit qu’un dixième de sa taille. En outre, Microsoft a collaboré avec Silicon Partners Intel, AMD et Qualcomm pour s’assurer que MU est entièrement optimisé pour fonctionner sur des machines locales propulsées par le NPU.
Quel a été l’intérêt de tous ces efforts d’optimisation? Selon Redmond, MU alimentera la nouvelle expérience « Agent » dans la prochaine application de paramètres AI-Enhanced. L’IA et le géant du cloud visent à fournir une nouvelle fonctionnalité « CHAT » qui permet aux utilisateurs de Windows de poser des questions liées aux paramètres en langage naturel et à recevoir des réponses efficaces, même lorsqu’ils savent à peine ce qu’ils recherchent.
L’IA agentique dans l’application Paramètres est censée améliorer la facilité d’utilisation de Windows. Microsoft a reconnu que la formation d’un SLM capable de gérer (et de modifier) des centaines de paramètres système était un défi, et la société dit qu’elle accueille les commentaires des utilisateurs sur la nouvelle fonctionnalité.
Personnellement, je n’ai jamais connu de problèmes d’utilisation ou de découverte avec les paramètres pendant huit ans d’utilisation de Windows 10, mais Microsoft reste optimiste à transformer Windows en une plate-forme « Ai-First ».