Claude d'Anthropic génère des preuves de sécurité pour des bibliothèques open source
En bref
- Claude a généré 180 millions de lignes de preuves pour 123 bibliothèques open source.
- Le système a détecté des bugs que les tests traditionnels n'avaient pas repérés.
- Les preuves ne s'appliquent qu'à des configurations très spécifiques (architecture, taille des entrées).
Anthropic annonce que son modèle Claude a produit environ 180 millions de lignes de preuves mathématiques pour vérifier la correction de 123 bibliothèques open source issues du projet OSS-Fuzz de Google. Selon l'entreprise, cette approche a permis de détecter des bugs que des années de tests traditionnels n'avaient pas repérés.
Le processus repose sur la traduction de tests de crash en problèmes mathématiques, l'analyse du code machine compilé et la génération de preuves formelles. Ces preuves sont ensuite vérifiées automatiquement par l'outil Rocq, avec une intervention humaine minimale. Anthropic souligne que le modèle a corrigé des centaines de bugs pendant cette phase, certains très spécifiques comme des erreurs liées à des fichiers d'entrée inhabituels ou des séquences d'accès particulières.
Les limites du système sont claires : les preuves ne s'appliquent qu'à des architectures processeurs précises, des programmes mono-thread et des entrées inférieures à 64 Mo. Malgré cela, Anthropic voit dans cette méthode un pas vers l'automatisation de la vérification formelle, comparable aux tests standards, et vise désormais des infrastructures critiques comme glibc ou OpenSSL.
Ce résumé vous donne l'essentiel. L'article complet, ses chiffres et ses citations sont chez The Decoder.
Lire l'article originalRésumé généré par IA à partir de la source, relu par règles. Comment nous rédigeons · Signaler une erreur