OpenAI dévoile GPT‑Red, la redoutable IA qui pirate ChatGPT, mais c'est pour son bien

Florian Bayard - 01Net - 16/07
OpenAI a dévoilé GPT‑Red, un modèle d'intelligence artificielle entièrement dédié à la traque des failles de sécurité au sein de ses propres systèmes. L'outil est chargé de simuler des cyberattaques réelles contre les IA qui font tourner ChatGPT afin de repérer leurs vulnérabilités, notamment en matière d'injection de requêtes. Un outil offensif que la start-up de Sam Altman garde soigneusement sous clé, loin du grand public.

OpenAI dégaine un nouveau modèle d’IA. Baptisé GPT‑Red, le modèle d’intelligence artificielle est uniquement conçu pour trouver des failles dans les autres systèmes d’IA de la start-up, avant les cybercriminels. Pour débusquer les vulnérabilités, l’IA va simuler des cyberattaques réelles contre les modèles qui animent ChatGPT. Ces simulations, évoquées sous le nom de « red teaming » dans le monde de la cybersécurité, doivent permettre d’isoler les points faibles d’un système informatique.

...
[Courte citation de 8% de l'article original]