Équité des explications en modération de discours haineux via régularisation des rationales
En bref
- L'étude introduit Plausibility-EFG pour mesurer les disparités d'explications entre groupes démographiques.
- L'entraînement adversarial réduit les écarts d'explications sans éliminer les biais prédictifs.
- Le cadre Fair-REF améliore l'alignement entre explications automatiques et rationales humaines.
Cette étude analyse l'équité des explications générées par des modèles de détection de discours haineux. Les résultats montrent que l'entraînement adversarial réduit les disparités entre groupes démographiques, sans corriger totalement les biais prédictifs. Un nouveau cadre, Fair-REF, est proposé pour améliorer l'alignement entre explications automatiques et rationales humaines.
Ce que ça change pour vous
- JuridiqueLes modèles de modération de discours haineux doivent intégrer des métriques d'équité des explications pour éviter des décisions biaisées envers certains groupes démographiques.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur