Détection de collusion entre agents IA via l'interprétabilité multi-agents
En bref
- HELIOS utilise des sondes d'activation pour détecter des collusions non verbales entre agents IA.
- Les méthodes atteignent 0,99 à 1,00 AUROC sur des tâches de collusion stéganographique.
- Les résultats montrent une transférabilité partielle à des environnements à collusion émergente.
Cet article propose HELIOS, un cadre de détection de collusion entre agents IA basé sur des statistiques d'inférence conjointe et des sondes d'activation. Les méthodes évaluées sur le benchmark NARCBench atteignent des performances quasi parfaites (AUROC 0,99-1,00) pour détecter des collusions non verbales, même transférables à des environnements inconnus.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur