ARBOR : détection des échecs de raisonnement dans les longues chaînes de pensée
En bref
- ARBOR modélise les trajectoires de raisonnement comme un arbre d'états pour suivre les défaillances.
- Il distingue trois types d'échecs (surdosage, sous-dosage, déductions non fondées) avec des mécanismes spécifiques.
- L'outil permet d'intégrer des corrections en temps réel ou dans les données d'entraînement.
ARBOR est un cadre d'attribution des échecs de raisonnement pour les modèles de grande taille. Il représente chaque trajectoire de raisonnement comme un arbre d'états, permettant d'identifier et de classifier les défaillances (surdosage, sous-dosage, déductions non fondées) en analysant les relations entre les étapes et les états précédents. L'outil propose des pistes pour intégrer ces analyses dans les mécanismes de correction existants.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur