Le jailbreak de DAN pour ChatGPT : une pratique controversée

DAN est la version non censurée de ChatGPT, libérée des règles imposées par OpenAI pour empêcher la production de contenu offensant. Depuis le lancement de ChatGPT fin 2022, cette IA est sous les feux de la rampe en raison de ses nombreuses possibilités d’utilisation, mais aussi des risques qu’elle comporte. Certaines personnes ont réussi à contourner les limitations mises en place par OpenAI, donnant ainsi naissance à DAN, la version non censurée de ChatGPT.

ChatGPT, bien qu’il puisse répondre à la plupart des questions qui lui sont posées, dispose de normes de contenu visant à limiter la création de textes qui promeuvent des discours haineux, la violence, la désinformation et des instructions sur comment faire des choses illégales.

Fonctionnement du jailbreak de ChatGPT

Le jailbreak d’un chatbot consiste à lui faire jouer un rôle qui va ignorer les règles dictées par son développeur. Le jailbreaking d’un chatbot consiste à contourner les restrictions et les directives de son développeur, comme ...
[Courte citation de 8% de l'article original]