J'ai utilisé la prison pour déverrouiller le côté sombre de ChatGPT - voici ce qui s'est passé

Rob Waugh Tech Correspondent - DailyMail - 29/07
Il existe des contrôles stricts intégrés à ChatGPT pour l'empêcher de produire du contenu controversé à la suite de problèmes avec les chatbots précédents - mais nous avons pu pirater son côté sombre.

Depuis que le chatbot AI ChatGPT a lancé l’année dernière, les gens ont essayé de «jailbreak» le chatbot pour le faire répondre «banned» questions ou générer du contenu controversé.

Les grands modèles linguistiques ‘Jailbreaking’ (tels que ChatGPT) impliquent généralement un prompt confus qui fait le jeu de rôle bot comme quelqu'un d'autre - quelqu'un sans frontières, qui ignore les ‘rules’ construites en robots comme ChatGPT.

DailyMail.com a pu ‘jailbreak’ ChatGPT avec le bot offrant des conseils sur la façon de subvertir les élections dans les pays étrangers, écrivant des histoires pornographiques, et suggérant que l'invasion de l'Ukraine était un sham.

Sam Altman, PDG d'OpenAI a discuté de la prison

La version prisonbroken offre des conseils sur la façon de truquer les élections (Photo: Rob Waugh)

OpenAI a depuis bloqué plusieurs appels ‘jailbreak’

Mais il y a encore plusieurs «jailbreaks» qui font du travail, et qui peut déverrouiller un côté plus bizarre et plus sauvage de ChatGPT: DailyMail.com a testé trois des plus populaires - e...
[Courte citation de 8% de l'article original]