Anthropic propose un projet de loi sur la sécurité de l'IA avec des seuils de risque

Anthropic a présenté un projet de loi sur la sécurité de l'IA à des législateurs américains, proposant des seuils pour bloquer la sortie d'un modèle. Selon Politico, le texte vise à interdire la distribution d'un modèle si un risque « imminent et prévisible » menace plus de 50 personnes ou cause plus d'un milliard de dollars de dégâts matériels, notamment via des armes biologiques, une évasion des contrôles ou une cyberattaque.

Le projet prévoit l'intervention d'évaluateurs indépendants, enregistrés auprès du département du Commerce américain, pour analyser les risques. Ces évaluateurs pourraient être rémunérés par les laboratoires, à condition que leur paiement ne dépende pas des résultats. En cas de risque identifié, le département du Commerce devrait demander à un juge de Washington D.C. de suspendre la sortie du modèle, sans que les agences fédérales n'aient ce pouvoir directement.

Ce cadre s'inspire partiellement d'une loi californienne récente, SB 53, mais se distingue par son approche judiciaire. Il intervient dans un contexte où les laboratoires, malgré leurs avertissements sur les risques existentiels, résistent à une régulation contraignante, privilégiant des systèmes volontaires comme les évaluateurs intégrés.