La sécurité de l'IA devient un enjeu systémique - Le Monde Informatique

Les entreprises ne peuvent pas sécuriser les agents IA en renforçant la robustesse des modèles sous-jacents. Elles doivent plutôt mettre en place des contrôles de sécurité au niveau du système qui les entoure. C’est ce qu’affirment des chercheurs de Google, de l'Université de Californie à San Diego, de l'Université du Wisconsin-Madison et d'autres institutions, parmi lesquels Mihai Christodorescu, Earlence Fernandes et Somesh Jha. Dans un article publié ce mois-ci, ils alertent sur l’inadaptation croissante des approches traditionnelles de la sécurité de l'IA au fonctionnement réel des agents autonomes au sein des environnements d'entreprise. Dans cette publication, les chercheurs soutiennent que les entreprises devraient cesser de traiter les agents IA comme des composants logiciels de confiance et les sécuriser plutôt comme des systèmes fondamentalement non fiables fonctionnant au sein de l'infrastructure d'entre...
[Courte citation de 8% de l'article original]