ChatGPT active un mode verrouillage pour mieux protéger les données sensibles

OpenAI ajoute une nouvelle option de sécurité à ChatGPT avec le déploiement du mode verrouillage, ou Lockdown Mode en anglais. Cette fonctionnalité vise à mieux protéger les utilisateurs les plus exposés contre un risque bien connu dans le domaine de l’intelligence artificielle générative : l’exfiltration de données provoquée par des attaques par injection de prompt.

Concrètement, ce mode limite l’accès de ChatGPT au Web, aux services externes et à certaines fonctions avancées afin de réduire les possibilités de fuite d’informations sensibles. Il ne s’agit pas d’un simple réglage de confidentialité, mais d’un mécanisme de sécurité plus strict, pensé pour les usages où les conversations peuvent contenir des documents confidentiels, des données professionnelles, des informations internes ou des éléments personnels à forte valeur.

Un mode verrouillage pour réduire les risques liés aux injections de prompt

Les injections de prompt font partie des menaces les plus spécifiques aux grands modèles de langage. Le principe consiste à dissimuler des instructions malveillantes dans un contenu que l’IA est amenée à lire : une page Web, un fichier, un document partagé, un e-mail ou encore une ressource utilisée par un ou...
[Courte citation de 8% de l'article original]