Les experts trouvent que les navigateurs d'IA peuvent être trompés par InterFix Exploit pour exécuter des invites cachées malveillantes

Les chercheurs en cybersécurité ont démontré une nouvelle technique d'injection rapide appelée PromptFix qui trompe un modèle générateur d'intelligence artificielle (Genai) à effectuer des actions prévues en intégrant l'instruction malveillante dans un faux vérification du captcha sur une page Web.

Décrit par Guardio Labs Une "prise de l'ère AI-L'arnaque ClickFix", la technique d'attaque montre comment les navigateurs dirigés par l'IA, tels que la comète de Perplexity, qui promettent d'automatiser les tâches banals comme l'achat pour les articles en ligne ou la manipulation des e-mails pour le nom des utilisateurs peuvent être trompés pour interagir avec les pages de terrain de phishing ou la fraude des étages de la connaissance humaine sans intervention.

"Avec PromptFix, l'approche est différente: nous n'essayons pas de pénétrer le modèle dans l'obéissance", a déclaré Guardio. "Au lieu de cela, nous l'avons induit en erreur en utilisant des techniques empruntées au livre de jeu de l'ingénierie sociale humaine - attrayant directement à son objectif de conception de base: aider son humain rapidement, complètement et sans hésitation."

Cela conduit à une nouvelle réa...
[Courte citation de 8% de l'article original]