« La leçon pratique pour les défenseurs » : comment un piratage par IA a forcé Hugging Face à abandonner ses modèles frontière

Amine Baba Aissa - Numerama - 11:13
Piratée par un système d'agents IA autonomes, la plateforme Hugging Face a dû abandonner les modèles frontière propriétaires pour mener son enquête. Le passage à un modèle open weight a changé la donne. Le 16 juillet, Hugging Face, plus grand dépôt de modèles et de jeux de données d'intelligence artificielle au
Piratée par un système d’agents IA autonomes, la plateforme Hugging Face a dû abandonner les modèles frontière propriétaires pour mener son enquête. Le passage à un modèle open weight a changé la donne.

Le 16 juillet, Hugging Face, plus grand dépôt de modèles et de jeux de données d’intelligence artificielle au monde, a révélé avoir détecté et neutralisé une intrusion dans son infrastructure de production.

C’est un jeu de données piégé, déposé sur la plateforme, et exécuté automatiquement dès son traitement par les serveurs de Hugging Face qui a servi de point d’entrée. Une fois ce premier accès obtenu, le hacker a pu récupérer des identifiants de connexion à l’infrast...
[Courte citation de 8% de l'article original]