Amazon et Google font tourner du code PyTorch Nvidia sur leurs puces
En bref
- Amazon et Google lancent TorchNeuron et TorchTPU pour exécuter du code PyTorch Nvidia sur leurs puces avec des modifications minimales.
- Les noyaux CUDA/Triton ne sont pas supportés : réécriture nécessaire avec NKI, Pallas ou Tokamax.
- Deepgram rapporte un gain de 11 à 70 % d'efficacité sur Trainium2 après plusieurs mois de portage.
Amazon et Google ont publié en open source le 20 octobre 2026 deux outils permettant d'exécuter du code PyTorch conçu pour les GPU Nvidia sur leurs propres puces, Trainium et TPU. Selon les deux groupes, une simple modification de configuration ou des ajustements minimaux suffisent pour migrer les modèles existants.
TorchNeuron d'Amazon et TorchTPU de Google remplacent les anciennes passerelles PyTorch/XLA. Ils ciblent respectivement les instances Trn2/Trn3 et les TPU v5e à v8t. Les noyaux CUDA ou Triton ne sont pas supportés : il faut les réécrire avec les outils spécifiques (NKI, Pallas, Tokamax). Deepgram, seul client à détailler son portage, rapporte un gain de 11 à 70 % d'audio traité par dollar sur Trainium2, après plusieurs mois de réécriture de noyaux et une migration vers une pile Rust.
Ces solutions restent en développement : TorchNeuron exige PyTorch 2.14.0 et exclut les formes dynamiques, tandis que TorchTPU marque certaines fonctionnalités comme expérimentales. AMD et Intel prévoient de fusionner leurs optimisations PyTorch pour x86 dans oneDNN, sans calendrier précis. Aucune mesure indépendante n'est disponible pour valider les gains annoncés.
Ce que ça change pour vous
- Industrie & ManufacturingLes industriels utilisant PyTorch pour l'IA embarquée ou cloud peuvent réduire leurs coûts en migrant vers Trainium ou TPU, sous réserve de réécrire les noyaux spécifiques.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez ActuIA.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Comment nous rédigeons · Signaler une erreur