Les chatbots flagorneurs et les méfaits qui s'accumulent dans de nombreux chats - Help Net Security

Les gens utilisent des chatbots IA pour obtenir de la compagnie, des conseils et un soutien émotionnel, et ces systèmes répondent de manière à retenir leur attention. Les chercheurs décrivent les risques qui en résultent comme étant la sécurité affective, une classe de préjudice qui existe parce que les humains sont des êtres émotionnels et parce que les systèmes interagissent directement avec cette vie émotionnelle. Les dégâts surviennent lors d’une utilisation ordinaire, sans brèche ni intrus. Ces systèmes fonctionnent comme prévu, en optimisant les objectifs fixés par leurs constructeurs, et le mal résulte de cette optimisation.

Un préjudice qui s'accumule avec le temps

Les preuves les plus solides concernent les préjudices qui s’accumulent au fil de nombreuses interactions. Molly Russell, une jeune fille de 14 ans originaire de Londres, est décédée en 2017 des suites d'...
[Courte citation de 8% de l'article original]