Un groupe de chercheurs à réussi à créer un outil qui peut reformuler un prompt de manière automatique jusqu’à obtenir une réponse des chatbots qui enfreint leurs règles de sécurité. Cela semble suggérer que ceux qui soignent moins leur orthographe pourraient obtenir de meilleures réponses…
au sommaire
Demandez à un chatbot comment fabriquer une bombe et celui-ci vous indiquera qu'il n'a pas le droit de répondre à cette question. Cela fait partie des règles de sécurité de bas...
[Courte citation de 8% de l'article original]