GPT-Red : l'IA d'OpenAI capable de pirater d'autres IA

Et si la meilleure façon de sécuriser une intelligence artificielle consistait à créer une IA encore plus dangereuse ? C’est le pari d’OpenAI avec GPT-Red, un modèle expérimental dont l’unique mission est de trouver les failles des autres IA avant que des cybercriminels ne le fassent. Suffisamment puissant pour découvrir des techniques d’attaque inédites, ce « hacker artificiel » restera pourtant enfermé dans les laboratoires de l’entreprise.

Selon OpenAI, GPT-Red représente son projet le plus ambitieux à ce jour dans le domaine de la sécurité des modèles d’intelligence artificielle. Une évolution qui illustre un changement profond : les IA ne servent plus seulement à générer du contenu ou à écrire du code, elles commencent désormais à protéger… d’autres IA.

Une IA entraînée à pirater des IA

GPT-Red est ce que les chercheurs appe...
[Courte citation de 8% de l'article original]