Des chercheurs en cybersécurité ont divulgué les détails d'une vulnérabilité dans OpenAI ChatGPT qui exploite la confiance implicite de l'assistant d'intelligence artificielle (IA) dans les liens et les images Markdown pour déclencher des injections rapides et ouvrir la porte à des attaques de phishing.
La technique a été nommée ChatGPhish par Permiso Security.
"Le moteur de rendu de réponse chatgpt.com fait confiance aux liens Markdown et aux URL d'images Markdown provenant d'une page tierce que l'assistant vient de résumer. Il récupère automatiquement ces images et affiche ces liens sous forme d'éléments cliquables en direct dans l'interface utilisateur de l'assistant de confiance", a déclaré le chercheur en sécurité Andi Ahmeti dans un rapport partagé avec The Hacker News.
Dans un scénario d'attaque hypothétique, un acteur malveillant peut ajouter une petite charge utile à n'importe quelle page Web que la victime demandera ultérieurement à ChatGPT de résumer, ce qui entraînera la fuite des détails de son adresse IP, de son agent utilisateur et de son référent lorsque les images hébergées par l'attaquant intégrées dans la page sont automatiquement récupérées lorsque la réponse est rendue.
En outre, cela peut entraîner l'affichage de liens Markdown malveillants sous forme d'éléments cliquables en direct dans la réponse de l'assistant, la diffusion de fausses alertes de sécurité de type système, la diffusion d'un code QR provenant du compartiment S3 d'un attaquant et la tromper pour qu'elle l'analyse via son appareil mobile, contournant ainsi efficacement les filtres d'URL du bureau et les contrôles de sécurité de l'entreprise.
Les dernières découvertes démontrent comment le résumé peut émerger comme une surface contradictoire. Plus tôt en mars, Permiso a également révélé comment un e-mail contrôlé par un attaquant contenant des instructions spécialement conçues, résumées par Microsoft Copilot, pourrait influe...
[Courte citation de 8% de l'article original]