Amazon s’attaque au véritable fossé de Nvidia : le logiciel de ses puces

Le principal avantage de Nvidia dans l’IA ne tient pas seulement au silicium. Il réside dans les habitudes logicielles construites autour de ce silicium — et Amazon s’attaque désormais à cette habitude.

Amazon a présenté TorchNeuron, un outil open source conçu pour permettre aux développeurs d’exécuter du code PyTorch existant sur ses puces IA Trainium en modifiant la configuration plutôt qu’en réécrivant entièrement le code. Reuters rapporte que cette initiative vise l’avantage logiciel de Nvidia autant que son matériel.

Google suit une stratégie comparable avec TorchTPU, un backend PyTorch natif et open source pour ses TPU, développé en collaboration avec Meta et l’équipe PyTorch. Le schéma est clair: le prochain véritable défi lancé à Nvidia pourrait moins venir d’un benchmark de puces que de la capacité à convaincre les développeurs qu’ils ont moins à perdre en essayant autre chose.

Le fossé de Nvidia tient au coût du départ, pas seulement à la qualité de l’arrivée

CUDA compte parce qu’il se trouve au cœur d’une immense partie du développement de l’IA sur les GPU Nvidia. Les développeurs peuvent écrire leurs applications en PyTorch plutôt que directement en CUDA, mais l’environnement logiciel associé aide ces applications à fonctionner efficacement sur le matériel Nvidia. Au fil du temps, les équipes construisent des workflows, des optimisations et des systèmes de production autour de cet environnement.

Cela crée des coûts de changement qui n’apparaissent sur aucune fiche technique de puce. Un accélérateur concurrent peut proposer une économie intéressante, mais les gains apparents peuvent disparaître si les ingénieurs doivent consacrer beaucoup de temps à adapter le code, tester son comportement et reconstruire les processus opérationnels.

C’est ce qui rend TorchNeuron stratégiquement important. Amazon n’a pas besoin que tous les développeurs abandonnent immédiatement Nvidia. Il lui suffit de rendre l’expérimentation avec Trainium moins pénible. Si essayer un autre accélérateur nécessite de modifier un paramètre plutôt que de lancer un vaste projet d’ingénierie, la décision devient plus facile à évaluer — et les clients de Nvidia disposent d’une alternative plus crédible dans leurs négociations.

À nos yeux, c’est une attaque plus efficace contre CUDA que de simplement affirmer qu’une autre puce est plus rapide ou moins chère. Les affirmations concernant les performances peuvent varier selon la charge de travail. Réduire le coût de test d’une solution alternative change la conversation commerciale elle-même.

« Une modification de configuration » est prometteuse, mais ce n’est pas la portabilité magique

Amazon affirme que TorchNeuron peut exécuter du code PyTorch sur Trainium avec un minimum de changements. Technology Org décrit l’outil comme open source et destiné à éviter d’importantes modifications du code. Il s’agit d’une amélioration significative par rapport à la réécriture d’une application pour un autre accélérateur, notamment pour les équipes qui souhaitent tester le silicium conçu par Amazon sans s’engager dans une migration complète.

Mais cette promesse doit être interprétée de manière restrictive. La garantie documentée concerne principalement les charges de travail PyTorch, et l’outil entre en bêta publique. Les systèmes plus spécialisés, le code CUDA personnalisé et les dépendances de production peuvent encore compliquer le changement. Un modèle qui se lance sur Trainium ne constitue pas automatiquement un système de production offrant exactement les mêmes performances, la même capacité à monter en charge et le même comportement que sur du matériel Nvidia.

Amazon affirme que plus de 30 premiers clients, dans des domaines allant de la robotique à l’IA vocale en passant par les modèles du monde réel, utilisent l’outil. Cela montre que le problème est réel et que les développeurs s’y intéressent. Ce n’est pas encore la preuve que toutes les charges de travail exigeantes se transféreront proprement à grande échelle.

L’interprétation raisonnable est que TorchNeuron réduit le premier obstacle, le plus intimidant: faire fonctionner un projet PyTorch existant. Les questions plus difficiles — performances, fiabilité, débogage et rentabilité — doivent encore être tranchées au cas par cas.

Le TorchTPU de Google montre que l’enjeu dépasse un seul produit Amazon

L’initiative d’Amazon est d’autant plus importante qu’elle s’inscrit dans une évolution plus large de la manière dont les fabricants de matériel abordent les logiciels d’IA. PyTorch présente TorchTPU comme une collaboration open source avec Google et Meta, fournissant un backend PyTorch natif pour les TPU de Google. Google a également présenté TorchTPU comme une pile conçue pour exécuter PyTorch nativement sur son infrastructure TPU.

Le message concurrentiel est simple: les développeurs devraient pouvoir utiliser un framework familier sans être contraints de reconstruire toute leur approche logicielle pour chaque famille de puces. Cela ne rend pas Trainium et les TPU interchangeables. Ils restent liés à des matériels et à des environnements cloud différents. Mais cela peut réduire le coût psychologique et technique de leur exploration.

C’est une bonne nouvelle pour les développeurs et une situation potentiellement inconfortable pour Nvidia. La force de CUDA vient en partie des investissements accumulés: plus les équipes construisent autour de cet environnement, plus il devient coûteux d’envisager des solutions alternatives. Les chemins PyTorch natifs commencent à saper cette boucle de rétroaction.

Il y a toutefois une ironie importante. Rendre les accélérateurs personnalisés plus faciles à utiliser pourrait renforcer les plateformes cloud qui les contrôlent. TorchNeuron facilite l’adoption de Trainium au sein d’AWS. TorchTPU rend l’environnement TPU de Google plus facile à appréhender. Le code peut être plus portable au niveau du framework, tandis que l’application dans son ensemble reste étroitement liée à l’infrastructure, aux services et à la capacité d’un fournisseur.

Le vainqueur sera la plateforme qui rendra le changement crédible

Cela ne signifie pas que la compatibilité open source est surestimée. Cela signifie que la compatibilité n’est que le début de la portabilité. Pour réussir une véritable migration, les organisations doivent également avoir confiance dans les performances, la disponibilité, les outils et l’économie de l’exécution de la charge de travail complète — pas seulement dans le code du modèle.

Cette distinction devrait guider la manière dont les entreprises évaluent ces annonces. Elles devraient tester Trainium ou les TPU lorsque la charge de travail le justifie, mais ne devraient pas supposer qu’une migration simplifiée vers un accélérateur élimine toutes les dépendances. La bonne question n’est pas: « Ce code PyTorch peut-il fonctionner ailleurs ? » C’est: « Quelle partie du système environnant peut être déplacée, et combien coûterait la preuve de cette possibilité ? »

Amazon a fait un choix judicieux, car il cible les obstacles qui protègent Nvidia de la concurrence classique. L’initiative TorchTPU de Google montre que la même idée dépasse désormais le cadre d’un seul challenger. Aucun de ces projets n’efface la maturité de CUDA, et aucun ne prouve que l’avance de Nvidia est sur le point de disparaître.

Notre verdict: TorchNeuron constitue une brèche significative dans le fossé logiciel de Nvidia, pas une révolution de la portabilité. Les développeurs devraient tester les alternatives crédibles, tandis que les clients de Nvidia devraient accueillir favorablement tout outil leur donnant davantage de poids. Le véritable affrontement ne porte plus seulement sur la puce la plus performante. Il porte sur le coût d’un changement d’avis.