Neural Expansion : un mécanisme unifié pour expliquer la généralisation des réseaux de neurones profonds
En bref
- Neural Expansion explique la généralisation via l'expansion de la couverture directionnelle des rayons dans l'espace d'entrée.
- La théorie utilise les intervalles de généralisation pour mesurer la stabilité des prédictions autour des échantillons d'entraînement.
- Les résultats empiriques valident le mécanisme sur diverses architectures et jeux de données.
Une nouvelle théorie géométrique, Neural Expansion, propose un mécanisme unifié pour expliquer comment les réseaux de neurones profonds généralisent malgré leur sur-paramétrisation. Elle s'appuie sur l'expansion de la couverture directionnelle des rayons dans l'espace d'entrée pour quantifier la stabilité des prédictions.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez cs.AI updates on arXiv.org.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Signaler une erreur