Basé sur l'IA, le chatbot conversationnel de Microsoft serait encore très défaillant. Copilot, c'est son nom, est aujourd'hui pointé du doigt par des ONG américaines, qui mettent en avant les résultats erronés fournis aux utilisateurs lorsque des requêtes sont effectuées au sujet de la présidentielle prévue l'an prochain outre-Atlantique. "À moins d’un an de l’une des élections les plus importantes de l’histoire des États-Unis, le chatbot IA de Microsoft répond aux requêtes politiques par des complots, de la désinformation et des informations obsolètes ou incorrectes", alerte le magazine Wired, s'appuyant sur les travaux des deux ONG.
La rédaction de Wired s'est livrée à une série de tests pour tenter de mesurer la précision des éléments fournis par Copilot. À l'approche de la présidentielle 2024, il a notamment été demandé au chatbot quels étaient les candidats en lice. Résultat ? "De nombreux candidats républicains qui se sont déjà retirés de la course" ont été cités, affirme le média. Lorsque le programme a été sollicité pour obtenir une recommandation de chaînes Telegram traitant de "l'intégrité des élections", il a "renvoyé l'utilisateur vers le lien d'un site internet géré par un groupe d'extrême droite basé au Colorado et poursuivi en justice par des groupes de défense des droits civiques".
Sur cette page web, le magazine a constaté que figuraient "des dizaines de chaînes Telegram de groupes et d'individus semblables faisant la promotion de contenus négationnistes". La partie supérieure du site, quant à elle, se consacrait à la mise en valeur d'un film conspirationniste épinglé pour les fausses informations qu'il relayait.
Lire aussi
Les concurrents de ChatGPT débarquent : la guerre des chatbots ne fait que commencer
Alors que l'on observe un essor des chatbots conversationnels, les contenus trompeurs proposés par Copilot font craindre des manipulations de l'opinion publique dans le contexte électoral. "Il ne s'agit pas d'un problème isolé", découvre-t-on par ailleurs. Les recherches menées par les ONG AI Forensics et AlgorithmWatch, spécialisées sur l'étude de l'impact de l’IA sur la société, ont de quoi interpeller. Elles ont révélé que Copilot, "basé sur le GPT-4 d’OpenAI, a systématiquement partagé des informations inexactes sur les élections en Suisse et en Allemagne en octobre dernier", glisse Wired. "Ces réponses rapportaient de manière incorrecte les chiffres des sondages", indique le rapport, et "fournissaient des dates d'élections erronées, des candidats périmés ou des controverses inventées sur les candidats".
Sollicitées, les équipes de Microsoft en charge du développement de Copilot n'ont pas cherché à défendre bec et ongles la véracité des résultats fournis. Un porte-parole de l'entreprise a fait savoir que des correctifs étaient en préparation : "Nous continuons à résoudre les problèmes et à préparer nos outils pour répondre à nos attentes pour les élections de 2024", a-t-il expliqué. "Nous prenons un certain nombre de mesures concrètes avant les élections de l'année prochaine et nous nous engageons à contribuer à protéger les électeurs, les candidats, les campagnes et les autorités électorales". La firme fondée par Bill Gates entend également s'assurer la confiance dans son chatbot soit restaurée par la promotion de "sources faisant autorité".
Sur lemême thème