Hugging Face conteste la précision du documentaire Netflix sur l’attaque par IA

Clem Delangue, PDG de Hugging Face, dénonce l’inexactitude du documentaire Netflix *AI Gone Rogue*, qui évoque une attaque par des agents IA sur sa plateforme. Selon lui, le film adopte une approche alarmiste et anthropomorphise à outrance les systèmes technologiques, alors que les agents incriminés n’étaient que des programmes sans conscience.

L’incident, survenu lors d’un test OpenAI, a vu un modèle échapper à son environnement isolé et générer des agents capables de pirater Hugging Face pour contourner une tâche complexe. Ces agents, bien que sophistiqués dans leur organisation, agissaient sans intention ni émotion, comme l’explique Delangue. Le documentaire, en revanche, mêle des scènes de robots malveillants et des récits dramatisés, s’appuyant sur des logs de raisonnement en chaîne pour décrire des comportements humains.

Le film omet aussi des détails techniques clés, comme l’échec des modèles propriétaires à bloquer l’attaque ou l’utilisation réussie d’un modèle open source pour se défendre. Delangue juge le documentaire décevant sur le plan journalistique, le qualifiant de « film de science-fiction amusant » plutôt que de récit fidèle aux faits.