Modèle de récompense humaine guidé par raisonnement pour le RL par préférences
En bref
- Nouveau cadre de RL par préférences intégrant des justifications textuelles pour guider l'alignement humain.
- Le modèle combine préférences et raisons pour améliorer l'interprétabilité des politiques optimisées.
- La récompense humaine est fusionnée avec la récompense environnementale pour équilibrer performance et alignement.
Cette étude propose un cadre de reinforcement learning (RL) par préférences basé sur le raisonnement humain. Le modèle apprend une récompense à partir de retours sur des trajectoires, intégrant des étiquettes de préférence et des justifications textuelles pour aligner les comportements sur les attentes humaines. Les résultats montrent une amélioration de l'interprétabilité et de l'alignement des politiques optimisées.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur