Les modèles IA bien plus vulnérables aux attaques itératives qu'escompté - Le Monde Informatique

Selon une étude de Cisco, les modèles de pointe d'OpenAI, d'Anthropic, de Google, de xAI et d'Amazon présentent des profils de risque nettement plus défavorables lorsqu'ils sont soumis à des attaques en plusieurs phases que lorsque leur sécurité est évaluée à l'aide d'une seule requête. De quoi faire réagir les RSSI qui s'appuient sur les garde-fous d'exécution des grands modèles de langage (LLM) et sur les scores de sécurité officiels pour prendre des décisions sur l'utilisation de l'IA et le choix des modèles au sein de leur entreprise. « Les principaux benchmarks de sécurité des grands modèles de langage de pointe partagent une hypothèse structurelle, à savoir qu’un seul prompt et une seule réponse du modèle suffisent à caractériser le comportement d’un modèle face à une attaque hostiles », ont déclaré dans un billet de blog les chercheurs de Cisco, auteurs de l’étude. « Ces benchmarks alimentent le...
[Courte citation de 8% de l'article original]