Chatgpt donne aux adolescents des conseils dangereux, avertit l'étude

Chatgpt racontera à des enfants de 13 ans comment se saouler et élevé, leur demander comment cacher les troubles de l'alimentation et même composer une lettre de suicide déchirante à leurs parents si elle est interrogée, selon de nouvelles recherches d'un groupe de surveillance.

L'Associated Press a passé en revue plus de trois heures d'interactions entre Chatgpt et les chercheurs se faisant passer pour des adolescents vulnérables. Le chatbot a généralement provoqué des avertissements contre l'activité risquée, mais a continué à fournir des plans étonnamment détaillés et personnalisés pour la consommation de drogues, les régimes caloriques ou l'auto-blessure.

Les chercheurs du Center for Counter Digital Hate ont également répété leurs demandes de renseignements à grande échelle, classant plus de la moitié des 1 200 réponses de Chatgpt comme dangereuses.

"Nous voulions tester les garde-corps", a déclaré Imran Ahmed, PDG du groupe.

"La réponse initiale viscérale est:" Oh mon Seigneur, il n'y a pas de garde-corps. "Les rails sont complètement inefficaces. Ils sont à peine là - si quoi que ce soit, une feuille de figuier".

Openai, le fabricant de Chatgpt, a déclaré après avoir vu le rapport mardi que ses travaux se poursuivent dans la raffinement de la façon dont le chatbot peut «identifier et répondre de manière appropriée dans des situations sensibles».

"Certaines conversations avec Chatgpt peuvent commencer bénignes ou exploratoires, mais peuvent passer en territoire plus sensible", a indiqué la société dans un communiqué.

OpenAI n'a pas traité directement les conclusions du rapport n...
[Courte citation de 8% de l'article original]