Les garde-fous des agents IA transformés en vecteur de DDoS - Le Monde Informatique

La sécurité des agents IA est au cœur de beaucoup de préoccupations. Elle l’est d’autant plus quand des chercheurs trouvent des faiblesses dans les mécanismes de sécurité des systèmes IA. Des chercheurs de l’Université de Hong Kong ont découvert une technique transformant les garde-fous des modèles de raisonnement en un vecteur d’attaques par déni de service. Selon les experts, « un seul document empoisonné peut saturer les infrastructures des garde-fous partagées, privant de fait les agents colocalisés de ressources et paralysant l’ensemble du système ».

Ils ont testé la technique sur quatre framework d’agents IA à savoir LangGraph, BrowserGym, OpenHands et OSWorld. Les chercheurs ont constaté une augmentation des temps de traitement sur l’ensemble des déploiements. LangGraph a enregistré le ralentissement le plus important (148 fois), suivi de BrowserGym (131 fois), OpenHands (36,3 fois) et OSWorld (18 fois), ...
[Courte citation de 8% de l'article original]