LEMON : un nouveau modèle de surveillance des erreurs des LLM sans réentraînement
En bref
- LEMON surveille les erreurs des LLM en temps réel via leurs cartes d'attention.
- Le modèle fonctionne sans réentraînement pour chaque nouveau LLM.
- Améliore les performances de détection jusqu'à 14 points de ROC-AUC sur 16 modèles.
Une équipe propose LEMON, un réseau de surveillance basé sur les cartes d'attention des grands modèles de langage. Ce système détecte les hallucinations et les jailbreaks en temps réel, sans nécessiter de réentraînement pour chaque nouveau modèle. Les tests sur 16 LLM et six jeux de données montrent une amélioration jusqu'à 14 points de ROC-AUC par rapport aux méthodes existantes.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur