Publié le 7 décembre 2025 à 12h03. Amazon dévoile une nouvelle génération de serveurs pour l’intelligence artificielle, dont l’architecture converge avec celle de ses concurrents Nvidia et AMD, marquant une standardisation croissante dans le secteur.
- Amazon a présenté ses systèmes de rack Trainium3 UltraServer, qui présentent de frappantes similitudes avec le GB200 NVL72 de Nvidia.
- L’entreprise s’oriente vers une architecture de rack modulaire, privilégiant la compatibilité et la simplification de la gestion des infrastructures.
- Amazon prévoit d’adopter les protocoles UALink et NVLink Fusion dans ses futurs accélérateurs Trainium4.
La course à la puissance de calcul pour l’intelligence artificielle entraîne une convergence notable des architectures matérielles. Amazon, avec son nouveau Trainium3 UltraServer, illustre cette tendance en proposant un système qui ressemble de plus en plus aux solutions de ses principaux concurrents, Nvidia et AMD. Cette standardisation, bien que surprenante, répond à une logique économique et opérationnelle pour les géants du cloud.
Les similitudes visuelles entre le Trainium3 UltraServer d’Amazon et le GB200 NVL72 de Nvidia sont flagrantes. Amazon a déjà déployé de nombreux racks Nvidia et, compte tenu de ces ressemblances, il est probable que les deux entreprises partagent une partie de leur infrastructure. L’entreprise a même annoncé que, avec le lancement de Trainium4, elle sera en mesure d’intégrer ses propres puces de calcul directement dans le même châssis MGX utilisé par les GPU de Nvidia.
À l’échelle d’Amazon Web Services (AWS), la simplification est primordiale. Il est plus efficace pour le géant du cloud de gérer un nombre limité de composants standardisés plutôt qu’une multitude de pièces spécifiques à chaque puce. Cette approche modulaire permet une meilleure gestion des stocks, une maintenance simplifiée et une réduction des coûts.
Cette convergence est également visible dans les initiatives de normalisation de l’industrie. Des acteurs majeurs comme Amazon et Meta ont fondé l’Open Compute Platform (OCP) pour promouvoir des standards ouverts. En octobre dernier, Nvidia a contribué ses conceptions de référence MGX à l’OCP, tandis qu’AMD et Meta annonçaient un nouveau rack double largeur basé sur le système Helios de House of Zen.
La convergence ne se limite pas aux racks, mais s’étend aux structures de calcul et de réseau. Peter Desantis, lors de la conférence Re:Invent, a présenté la lame de calcul Trainium3, combinant un processeur Graviton avec quatre accélérateurs Trainium3 et une paire d’unités de traitement de données Nitro. Jusqu’à présent, les systèmes Trainium d’AWS utilisaient des processeurs x86 d’Intel.
Cette configuration rappelle celle des systèmes rack d’AMD et Nvidia. Le système d’AMD combine quatre GPU de la série MI400 avec un processeur Venice et des smartNIC de sa division réseau Pensando. Nvidia, quant à elle, utilise une formule similaire avec deux processeurs Grace. La principale différence réside dans le fait qu’AMD a opté pour une conception OpenRack double largeur.
Les UltraServers Trn3 d’Amazon utilisent 36 de ces lames de calcul, réparties sur deux racks de style MGX. Les 144 accélérateurs embarqués sont interconnectés grâce à la nouvelle technologie NeuronSwitch d’Amazon, dont chaque UltraServer en utilise environ 20. AWS n’a pas encore révélé la topologie spécifique de cette structure.
Nvidia et AMD utilisent des approches similaires. Les racks GB200 et GB300 NVL72 de Nvidia utilisent 18 commutateurs répartis sur neuf traîneaux de commutateurs, tandis qu’AMD utilise 12 commutateurs Ethernet de 102,4 Tbps (terabits par seconde) répartis sur six lames double largeur.
Ces structures à haute vitesse permettent de regrouper les ressources de calcul et de mémoire de 72 ou 144 puces, créant ainsi un accélérateur géant de la taille d’un rack.
Bien que l’architecture générale soit similaire, les protocoles de communication diffèrent. AWS utilise NeuronSwitch, AMD tunnelise le protocole UALink sur Ethernet, et Nvidia s’appuie sur ses technologies NVLink et NVSwitch. Amazon a annoncé son intention d’adopter UALink et NVLink Fusion dans ses accélérateurs Trainium4 de nouvelle génération, ce qui pourrait indiquer une évolution de sa stratégie.
Il est important de noter que les tissus commutés ne sont pas la seule option. Amazon a déjà utilisé une approche de maillage de calcul avec ses accélérateurs Trainium2, utilisant des topologies Torus 2D et 3D. Selon Nafea Bshara, co-fondateur de la division Annapurna Labs d’AWS, les deux topologies ont leurs avantages, mais pour les charges de travail actuelles, les structures commutées et évolutives semblent plus prometteuses.
« Nous sommes passés d’un Torus 3D, qui est d’ailleurs très bon pour les grands modèles et très bon pour la formation, à une topologie de commutation. »
Nafea Bshara, co-fondateur de la division Annapurna Labs d’AWS
Bshara explique que pour l’inférence, en particulier lors de la génération de texte jeton par jeton, une faible latence et une mémoire agrégée importante sont cruciales, ce que permettent les structures commutées.
Google, avec ses clusters TPU de 7e génération Ironwood, reste un cas à part, utilisant des tores 2D et 3D pouvant atteindre 9 216 TPU dans un seul domaine de calcul. Google utilise des optiques, contrairement à Nvidia, AMD et probablement AWS, en raison de leur consommation d’énergie plus élevée. L’utilisation de commutateurs de circuits optiques permet à Google de diviser ses pods TPU en clusters plus petits en fonction de la charge de travail et de gérer facilement les pannes.
Avec le changement de stratégie d’Amazon, Google se retrouve donc comme l’un des seuls grands fournisseurs d’infrastructures à continuer d’utiliser des topologies toriques pour ses clusters d’inférence et de formation d’IA.
Sur le même sujet
