Fine-tuning de GPT-OSS-20B pour le raisonnement multilingue sur SageMaker HyperPod
En bref
- Le modèle GPT-OSS-20B de base raisonne en anglais même sur demande dans une autre langue (22 % de réussite).
- Un fine-tuning supervisé (SFT) porte le raisonnement multilingue à 100 %, mais la réponse finale reste souvent en anglais.
- Le RL avec GRPO améliore de 8 points la précision de la réponse finale dans la langue cible, sans altérer le raisonnement.
Amazon a fine-tuné le modèle open-weight GPT-OSS-20B pour qu'il raisonne dans plusieurs langues, pas seulement en anglais. Selon l'annonce, le modèle de base ne répondait correctement en français, allemand, espagnol ou italien que 22 % du temps, principalement en anglais. Une fine-tuning par apprentissage supervisé (SFT) a porté ce taux à 100 % pour le langage de raisonnement, mais l'anglais dominait encore pour la réponse finale.
L'équipe a testé deux méthodes : le SFT seul, qui comble les lacunes majeures, et le RL avec GRPO, qui affine les réponses lorsque des marges de progression existent. Sur un jeu de 50 tests multilingues, le SFT a permis d'atteindre 100 % de raisonnement dans la langue cible, tandis que le GRPO a ajouté jusqu'à 8 points de précision sur la langue de la réponse finale, sans dégrader le raisonnement.
Ce travail illustre l'importance de choisir la technique adaptée au déficit de capacité du modèle. Les détails techniques, comme l'utilisation de LoRA et l'infrastructure SageMaker HyperPod, sont également décrits pour reproduire l'expérience.
Ce que ça change pour vous
- ÉducationLes outils éducatifs multilingues basés sur des LLM pourront désormais offrir des réponses et raisonnements cohérents dans la langue de l'utilisateur, améliorant l'expérience d'apprentissage.
- Marketing & PublicitéLes campagnes publicitaires ou outils de génération de contenu multilingues gagneront en précision et pertinence locale, réduisant les erreurs de traduction ou de raisonnement.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez Artificial Intelligence.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Comment nous rédigeons · Signaler une erreur