Les projets d’IA sont confrontés à des défis de sécurité qui découlent de la difficulté à garantir l’intégrité et la fiabilité des modèles. Les portes dérobées silencieuses des modèles Sleepy Pickle et HuggingFace sont des cas notables de failles de sécurité de ce type. Ils témoignent de la possibilité d'influencer le comportement d'un modèle d'IA directement ou indirectement par le biais de modifications de modèle malveillantes ou autorisées, de manipulations et d'attaques contradictoires. Ces violations du modèle proviennent des angles morts qui existent lors du développement et du post-développement des projets d’IA. Ce manque de visibilité rend les modèles et les données d’IA vulnérables à ces compromissions de sécurité.

Une enquête récente de la Linux Foundation préconise l'adoption de pratiques et de stratégies de développement transparentes et responsables comme contre-mesure pour atténuer ces failles de sécurité et ces angles morts dans les systèmes d'IA.

Cet article met en évidence l'utilisation des nomenclatures logicielles (SBOM) comme stratégie de transparence et de responsabilité pour attester les modèles et garantir la sécurité des modèles des projets d'IA. Ensuite, il explore l'utilisation d'un outil qui vous permet d'adapter ces stratégies pour développer vos modèles d'IA.

Comprendre le défi de la sécurité de l’IA

Les composants du projet d'IA comprennent des données, des modèles et du code. Changer le composant du modèle sans laisser de trace est souvent possible en modifiant les données ou le code. Une documentatio...
[Courte citation de 8% de l'article original]