Lorsque la start-up de San Francisco, OpenAI, a dévoilé son chatbot en ligne ChatGPT à la fin de l'année dernière, des millions de personnes ont été impressionnées par la manière humaine dont il répondait aux questions, écrivait de la poésie et discutait de presque tous les sujets. Mais la plupart des gens ont mis du temps à réaliser que ce nouveau type de chatbot inventait souvent les choses.
Lorsque Google a introduit un chatbot similaire quelques semaines plus tard, il a craché des bêtises sur le télescope James Webb. Le lendemain, le nouveau chatbot Bing de Microsoft proposait toutes sortes de fausses informations sur Gap, la vie nocturne mexicaine et la chanteuse Billie Eilish. Puis, en mars, ChatGPT a cité une demi-douzaine de fausses affaires judiciaires tout en rédigeant un mémoire juridique de 10 pages qu'un avocat a soumis à un juge fédéral de Manhattan.
Aujourd'hui, une nouvelle start-up appelée Vectara, fondée par d'anciens employés de Google, tente de déterminer à quelle fréquence les chatbots s'écartent de la vérité. Les recherches de l’entreprise estiment que même dans des situations conçues pour empêcher que cela ne se produise, les chatbots inventent des informations au moins 3 % du temps – et jusqu’à 27 %.
Les experts appellent ce comportement du chatbot « hallucination ». Cela ne pose peut-être pas de problème pour ceux qui bricolent des chatbots sur leur ordinateur personnel, mais c'est un problème sérieux pour quiconque utilise cette technologie avec des documents judiciaires, des informations médicales ou des données commerciales sensibles.
Étant donné que ces chatbots peuvent répondre à presque toutes les demandes d’un nombre illimité de faç...
[Courte citation de 8% de l'article original]