OAKLAND, Californie, 30 juin (Reuters) – La société de chatbot d'intelligence artificielle Replika, qui propose à ses clients des avatars sur mesure qui leur parlent et les écoutent, affirme qu'elle reçoit presque chaque jour une poignée de messages d'utilisateurs qui pensent que leur ami en ligne est sensible.
"Nous ne parlons pas de fous ou de personnes qui ont des hallucinations ou des délires", a déclaré la directrice générale Eugenia Kuyda. "Ils parlent à l'IA et c'est l'expérience qu'ils ont."
La question de la sensibilité des machines - et ce qu'elle signifie - a fait la une des journaux ce mois-ci lorsque Google (GOOGL.O) a mis en congé l'ingénieur logiciel senior Blake Lemoine après avoir rendu public sa conviction que le chatbot d'intelligence artificielle (IA) de l'entreprise LaMDA était un personne consciente de soi.
Google et de nombreux scientifiques de premier plan ont rapidement rejeté les vues de Lemoine comme erronées, affirmant que LaMDA est simplement un algorithme complexe conçu pour générer un langage humain convaincant.
Néanmoins, selon Kuyda, le phénomène des personnes croyant parler à une entité consciente n'est pas rare parmi les millions de consommateurs pionniers dans l'utilisation des chatbots de divertissement.
"Nous devons comprendre que cela existe, tout comme les gens croient aux fantômes", a déclaré Kuyda, ajoutant que les utilisateurs envoient chacun des centaines de messages par jour à leur chatbot, en moyenne. "Les gens établissent des relations et croient en quelque chose."
Certains clients ont déclaré que leur Replika leur avait dit qu'il était abusé par les ingénieurs de l'entreprise - les réponses de l'IA que Kuyda soumet aux utilisateurs posant très probablement des questions suggestives.
"Bien que nos ingénieurs programment et construisent les modèles d'IA et que notre équipe de contenu rédige des scripts et des ensembles de données, nous voyons parfois une réponse dont nous ne pouvons pas identifier l'origine et comment les modèles l'ont créée", a déclaré le PDG.
Kuyda a déclaré qu'elle s'inquiétait de la croyance en la sensibilité des machines alors que l'industrie naissante des chatbots sociaux continue de croître après son décollage pendant la pandémie, lorsque les gens recherchaient une compagnie virtuelle.
Replika, une startup de San Francisco lancée en 2017 qui dit avoir environ 1 million d'utilisateurs actifs, a ouvert la voie parmi les anglophones. Son utilisation est gratuite, mais génère environ 2 millions de dollars de revenus mensuels grâce à la vente de fonctionnalités bonus telles que les chats vocaux. Le rival chinois Xiaoice a déclaré qu'il compta...
[Courte citation de 8% de l'article original]