En septembre 2023, des chercheurs enquêtant sur une campagne de désinformation russe ont remarqué un changement soudain dans un site Web de fausses informations qu’ils suivaient. Le média, DCWeekly.org, récupérait normalement des articles entiers provenant de sources telles que Fox News, changeant le nom du journaliste et rien d'autre. Les véritables histoires étaient censées fournir une couverture à la Russie pour lancer occasionnellement une fausse histoire, méticuleusement produite, comme un article à succès sur le président ukrainien Volodymyr Zelenskyy – une technique appelée blanchiment narratif. «Ils construisent une forêt pour pouvoir y cacher un arbre en particulier», explique Morgan Wack, spécialiste en communication politique à l'Université de Zurich.
Mais du jour au lendemain, Wack et ses collègues ont réalisé qu’ils ne parvenaient plus à savoir d’où le site tirait ses informations quotidiennes. "Vous avez vu ce style d'écriture totalement différent, et il y avait plus d'articles", dit-il. Les chercheurs soupçonnaient que l’opération était passée à l’utilisation de l’intelligence artificielle générative – des soupçons qui ont été confirmés après avoir découvert des restes d’invites d’IA dans certains articles, comme celui qui disait : « Veuillez noter : le ton de l’article critique la position américaine soutenant la guerre en Ukraine et adopte un ton cynique lorsqu’il parle du gouvernement américain, de l’OTAN ou des politiciens américains. »
C’était une occasion rare pour l’équipe de Wack d’étudier comment l’IA façonne le monde de la désinformation. Selon les chercheurs, la production du site Web a considérablement augmenté. Lors des expériences, les gens n’ont pas trouvé la propagande générée par l’IA plus convaincante que les histoires écrites par des humains, mais le passage à l’IA était toujours une victoire pour les propagandistes, dit Wack. "Ils n'ont perdu aucune crédibilité et ont pu booster beaucoup plus de contenu." L’IA leur avait essentiellement permis de construire une forêt plus grande et de meilleure qualité pour y cacher leurs arbres.
DCWeekly.org n’est pas le seul à adopter l’IA générative : la technologie est de plus en plus intégrée aux campagnes de désinformation à travers le monde. (La désinformation fait généralement référence à des informations fausses ou trompeuses ; si elle est diffusée dans le but de tromper délibérément les gens, elle est qualifiée de désinformation). Selon un rapport de l’Union européenne publié en mars, 27 % des tentatives de manipulation de l’information menées par des puissances étrangères à l’échelle mondiale impliquaient l’utilisation de l’IA en 2025, soit une multiplication par trois par rapport à 2024. « C’est un outil puissant, et il est définitivement entre les mains de ceux qui ont intérêt à manipul...
[Courte citation de 8% de l'article original]