En mai, Tessa est devenue voyou. Le chatbot de la National Eating Disorder Association avait récemment remplacé une ligne d'assistance téléphonique et la poignée d'employés qui la géraient. Mais bien qu'il ait été conçu pour fournir un ensemble de réponses approuvées aux personnes susceptibles de présenter un risque de trouble de l'alimentation, Tessa leur a plutôt recommandé de perdre du poids. "Chaque chose que Tessa a suggérée était des choses qui ont conduit au développement de mon trouble de l'alimentation", a écrit une femme qui a examiné le chatbot sur Instagram. Tessa a été rapidement mise en boîte. "Ce n'était pas notre intention de suggérer que Tessa pourrait fournir le même type de connexion humaine que la ligne d'assistance offerte", a déclaré la PDG de l'organisation à but non lucratif, Liz Thompson, à NPR. Peut-être que l'organisation ne voulait pas suggérer une connexion humaine, mais sinon pourquoi donner ce nom au bot ?
La nouvelle génération de chatbots peut non seulement converser de manière humainement troublante ; dans de nombreux cas, ils ont aussi des noms humains. En plus de Tessa, il y a des bots nommés Ernie (de la société chinoise Baidu), Claude (un rival de ChatGPT de la start-up d'IA Anthropic) et Jasper (un assistant d'écriture d'IA populaire pour les marques). Bon nombre des chatbots les plus avancés - ChatGPT, Bard, Hugging...
[Courte citation de 8% de l'article original]