puces

Le défi de la portabilité logicielle pour les GPU : Modular se positionne comme une alternative à CUDA et ROCM

24 septembre 2025 – 18h02

Les développeurs rencontrent des difficultés pour adapter le code CUDA de Nvidia à l’environnement ROCM d’AMD, ce qui les pousse souvent à se concentrer sur un seul fournisseur de puces. C’est un constat qui souligne les enjeux de la portabilité logicielle dans le monde des GPU.

“ROCM est excellent, c’est open source, mais il est limité au matériel d’un seul fabricant”, a déclaré Chris Lattner lors d’un événement AMD en juin. Il a ensuite exposé les avantages de Modular, une approche logicielle plus portable et capable d’optimiser les GPU plus rapidement.

Cette situation illustre la complexité de la position de Lattner et de son équipe, qui doivent promouvoir Modular tout en maintenant des partenariats avec Nvidia et AMD. Ces deux entreprises pourraient devenir des concurrents directs à l’avenir. L’intérêt de Modular réside dans sa capacité à optimiser les GPU, potentiellement mieux que les solutions propriétaires de Nvidia, en raison des délais parfois longs entre l’annonce d’un nouveau GPU et la publication des “noyaux d’attention” essentiels par Nvidia.

Selon Munichiello, Modular est actuellement complémentaire aux offres d’AMD et de Nvidia, mais pourrait à terme être perçu comme une menace par ces géants, en proposant une alternative logicielle supérieure à CUDA ou ROCM. Il souligne également une potentielle réticence des clients du cloud à payer une couche logicielle supplémentaire.

L’optimisation du code pour les GPU est un domaine complexe, qualifié d'”art sombre” par Waleed Atallah, cofondateur et PDG de Mako, une entreprise spécialisée dans l’optimisation des noyaux GPU. “Mapper un algorithme à un GPU est une tâche incroyablement difficile. Sur des centaines de millions de développeurs, seulement quelques milliers sont capables d’écrire du code GPU performant, et à peine une centaine le maîtrisent véritablement.”

Mako développe des agents d’IA pour automatiser et optimiser le codage pour les GPU. Certains experts estiment que cette approche, basée sur l’intelligence artificielle, est l’avenir de l’industrie, plutôt que la création d’un compilateur universel ou d’un nouveau langage de programmation comme Modular. Mako a récemment levé 8,5 millions de dollars en financement de démarrage.

“Nous adoptons une approche itérative pour coder et automatiser avec l’IA”, explique Atallah. “En simplifiant l’écriture du code, nous multiplions exponentiellement le nombre de personnes capables de le faire. Développer un autre compilateur est une solution plus statique.”

Lattner précise que Modular utilise également des outils de codage basés sur l’IA, mais ambitionne de couvrir l’ensemble de la pile de codage, et pas seulement les noyaux.

Les investisseurs sont convaincus par cette approche, avec environ 250 millions de dollars investis. Lattner, reconnu pour avoir créé le projet LLVM et le langage de programmation Swift d’Apple, et Davis, partagent la conviction qu’il s’agit d’un problème logiciel qui doit être résolu en dehors des grandes entreprises technologiques, souvent focalisées sur leur propre écosystème.

“Lorsque j’ai quitté Google, j’étais frustré de ne pas pouvoir résoudre ce problème”, confie Lattner. “Nous avons réalisé que ce n’était pas une question d’intelligence, d’argent ou de capacité, mais un problème structurel.”

Munichiello souligne l’importance de l’équipe fondatrice dans ses décisions d’investissement. “Lattner est obstiné, impatient et, la plupart du temps, il a raison”, affirme-t-il. “Steve Jobs était également comme ça – il ne prenait pas de décisions par consensus, mais il avait souvent raison.”