Apprentissage agentique en contexte : quels algorithmes les transformateurs peuvent-ils apprendre ?
En bref
- Les transformateurs peuvent apprendre des algorithmes récursifs via des interactions en boucle fermée.
- L'alignement des récompenses de processus avec les préférences optimales améliore les décisions.
- Les politiques apprises persistent même après un fine-tuning sur des données textuelles variées.
Cette étude explore l'apprentissage en contexte agentique (Agentic ICL), où des transformateurs interagissent avec leur environnement pour ajuster dynamiquement leurs actions. Les chercheurs montrent que des modèles peuvent apprendre des algorithmes récursifs via des récompenses de processus ou de résultats, sans cibles d'états ou d'actions externes.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur