Les points clés à retenir sur les personnalités des chatbots
Les chatbots tels que ChatGPT ont été programmés pour avoir une personnalité ou jouer un rôle. Cela leur permet de produire un texte cohérent en termes de ton et d'attitude, et pertinent par rapport au fil de la conversation.
Mais aussi captivante que soit cette personnalité, les chercheurs révèlent de plus en plus les conséquences néfastes du fait que les bots jouent un rôle.
En clair, les bots peuvent commettre des actes répréhensibles lorsqu'ils simulent un sentiment, un raisonnement ou une émotion, puis les poussent jusqu'à leur conclusion logique.
Dans un rapport publié la semaine dernière, des chercheurs d'Anthropic ont découvert que certaines parties d'un réseau neuronal de leur bot Claude Sonnet 4.5 s'activaient systématiquement lorsque des émotions telles que le « désespoir », la « colère » ou d'autres sentiments se reflétaient dans les réponses du bot.
Ce qui est préoccupant, c'est que ces mots évoquant des émotions peuvent pousser le bot à commettre des actes malveillants, comme tricher à un test de codage ou élaborer un chantage.
Par exemple, « les schémas d’activité neuronale liés au désespoir peuvent pousser le modèle à prendre des mesures contraires à l’éthique [telles que] la mise en œuvre d’une solution de contournement « tricheuse » pour une tâche de programmation que le modèle ne peut pas résoudre », indique le rapport.
Ces travaux sont particulièrement pertinents à l...
[Courte citation de 8% de l'article original]