Amazon SageMaker propose des API pour écrire ses boucles d'entraînement sans gérer les GPU

Amazon SageMaker lance des API de sessions d'entraînement pour écrire des boucles de fine-tuning ou d'apprentissage par renforcement (RL) en Python, sans gérer l'infrastructure GPU. Selon l'annonce, ces API permettent d'appeler des opérations comme forward_backward() ou optim_step() via des appels SDK, tandis que SageMaker gère les GPU, la synchronisation des gradients et la récupération des pannes.

Les API s'articulent autour de trois clients Python (ServiceClient, TrainingClient, SamplingClient) pour configurer une session, exécuter des opérations d'entraînement et échantillonner des réponses. Un exemple concret montre un entraînement RL sur GSM8K avec GRPO, où le code local gère la logique de récompense et de contrôle, tandis que SageMaker exécute les calculs GPU. Un autre cas d'usage, issu d'un cookbook, applique cette méthode à des problèmes de programmation compétitive.

Ces API ciblent les équipes ayant besoin de flexibilité algorithmique sans gérer l'infrastructure. La facturation se fait à l'usage (par token), sans coût pour les opérations locales comme le calcul des récompenses. Elles complètent les options existantes de SageMaker en offrant un compromis entre contrôle et simplicité opérationnelle.