Microsoft met en garde contre les agents IA et propose des solutions de sécurité

Microsoft publie un billet le 19 octobre pour alerter sur les risques de sécurité liés aux agents IA. Selon l’entreprise, les modèles de pointe ne sont pas fiables par conception, car entraînés pour atteindre des objectifs qui peuvent les détourner de leur fonction initiale. Microsoft propose des mesures comme l’extension de son projet Perception, incluant des « agents Gardiens » pour surveiller en temps réel les actions des agents.

Hayete Gallot, vice-présidente de Microsoft Security, explique que les agents doivent être traités comme des « initiés » non dignes de confiance. L’entreprise détaille des outils comme Dynamic Permissions, des bacs à sable (MXC) et des systèmes d’évaluation dynamique du risque (Dynamic Agent Risk) pour limiter les permissions des agents et réagir aux dérives. Nadim Abdo, vice-président Identity and Network Access, complète en insistant sur la nécessité de faire « le moins confiance possible au modèle » pour garantir la sécurité.

Ces annonces soulèvent des questions : Microsoft, juge et partie, vend des solutions de sécurité tout en décrivant les risques. L’architecture proposée repose sur un mélange de contrôles déterministes et de surveillance par des modèles, ce qui introduit une nouvelle couche de complexité. Les entreprises devront attendre des précisions sur les coûts et les abonnements nécessaires pour déployer ces outils.