Il n’existe pas de moyen simple d’expliquer la somme des connaissances de Google. Il est en constante expansion. Sans fin. Un réseau croissant de centaines de milliards de sites Web, plus de données que même 100 000 iPhones les plus chers réunis pourraient stocker. Mais pour l’instant, je peux dire ceci : Google ne sait pas s’il existe un pays africain commençant par la lettre k.
J'ai demandé au moteur de recherche de le nommer. « Qu'est-ce qu'un pays africain commençant par K ? » En réponse, le site a produit une réponse « extrait de code », un de ces morceaux de texte que vous pouvez lire directement sur la page de résultats, sans accéder à un autre site Web. Cela commence ainsi : « Bien qu’il existe 54 pays reconnus en Afrique, aucun d’entre eux ne commence par la lettre « K ».
C'est faux. Le texte continue : « Le plus proche est Kenya, qui commence par un son « K », mais s’écrit en fait avec un son « K ». C’est toujours intéressant d’apprendre de nouvelles anecdotes comme celle-ci.
Étant donné à quel point cette réponse est absurde, vous ne serez peut-être pas surpris d'apprendre que l'extrait a été initialement écrit par ChatGPT. Mais vous serez peut-être surpris de voir à quel point cette réponse est devenue une réponse phare dans la base de connaissances prédominante d’Internet. Le moteur de recherche extrait ce texte d'un message publié par un utilisateur sur Hacker News, un forum de discussion en ligne sur la technologie, qui cite lui-même un site Web appelé Emergent Mind, qui existe pour enseigner aux gens l'IA, y compris ses défauts. À un moment donné, les robots d’exploration de Google ont récupéré le texte, et maintenant son algorithme présente automatiquement la réponse absurde du chatbot comme un fait, avec un lien vers la discussion de Hacker News. L'erreur du Kenya, aussi improbable qu'un utilisateur puisse y tomber par hasard, n'est pas isolée : j'ai découvert la réponse pour la première fois dans un tweet viral du journaliste Christopher Ingraham le mois dernier, et elle a été rapportée par Futurism dès Août. (Quand Ingraham et Futurism l'ont vu, Google citait ce message initial d'Emergent Mind, plutôt que Hacker News.)
Voilà en résumé le défi existentiel actuel de Google : l’entreprise est entrée dans l’ère de l’IA générative avec un moteur de recherche qui semble plus complexe que jamais. Et pourtant, il peut toujours être réquisitionné par des déchets qui sont faux ou même tout simplement absurdes. Les fonctionnalités plus anciennes, comme les extraits de...
[Courte citation de 8% de l'article original]