Image de Liz Carrigan et Safa, avec des éléments visuels d'Alessandro Cripsta, utilisée avec autorisation.
Cet article a été écrit par Safa pour la série « Digitized Divides », initialement publiée sur tactiquetech.org. Une version éditée est republiée par Global Voices dans le cadre d'un accord de partenariat.
Les médias sociaux constituent un outil clé d’information et de connexion pour les personnes faisant partie de communautés traditionnellement marginalisées. Les jeunes accèdent à des communautés importantes auxquelles ils n’ont peut-être pas accès dans la vraie vie, comme les espaces conviviaux LGBTQ+. Selon les mots d'un adolescent : "Tout au long de ma vie, j'ai été victime d'intimidation sans relâche. Cependant, lorsque je suis en ligne, je trouve qu'il est plus facile de se faire des amis... […] Sans cela, je ne serais pas là aujourd'hui." Mais les experts affirment que les médias sociaux ont été « à la fois la meilleure chose […] et la pire » qui soit arrivée à la communauté trans, les discours de haine et les violences verbales ayant des conséquences tragiques dans la vie réelle. « Les recherches menées à ce jour suggèrent que les expériences sur les réseaux sociaux peuvent être une arme à double tranchant pour les jeunes LGBTQ+, qui peuvent protéger contre ou augmenter les risques liés à la santé mentale et à la consommation de substances. »
En janvier 2025, Mark Zuckerberg a annoncé que Meta (y compris Facebook et Instagram) mettrait fin à son programme tiers de vérification des faits au profit du modèle des « notes communautaires » sur X (anciennement Twitter). La décision de Meta incluait la fin des politiques qui protègent les utilisateurs LGBTQ+. La désinformation est un problème récurrent sur les plateformes de médias sociaux, renforcé et stimulé par la conception des applications, où le plus de clics et de likes obtiennent le plus de récompenses, qu'il s'agisse de récompenses d'attention ou d'argent. Les recherches ont révélé que « les 15 % d’utilisateurs les plus habituels de Facebook étaient responsables de 37 % des faux titres partagés dans l’étude, ce qui suggère qu’un nombre relativement restreint de personnes peut avoir un impact démesuré sur l’écosystème de l’information ».
L’engagement de Meta de supprimer son programme tiers de vérification des faits a sonné l’alarme parmi les journalistes, les organisations de défense des droits humains et les chercheurs. Le Haut-Commissaire des Nations Unies aux droits de l’homme, Volker Türk, a répondu : « Autoriser les discours de haine et les contenus préjudiciables en ligne a des conséquences réelles. » Meta a été impliquée ou accusée d’avoir amplifié le génocide des Rohingyas au Myanmar, ainsi que d’avoir alimenté la violence ethnique au Kenya, en Éthiopie et au Nigeria, au moins en partie à cause de la désinformation généralisée sur sa plateforme.
« Nous avons des preuves provenant de diverses sources que les discours de haine, les discours politiques qui divisent et la désinformation sur Facebook… affectent les sociétés du monde entier », a déclaré un rapport interne de Facebook datant de 2019. « Nous avons également des preuves convaincantes que les mécanismes de base de nos produits, tels que la viralité, les recommandations et l'optimisation de l'engagement, sont une partie importante de la raison pour laquelle ces types de discours fleurissent sur la plateforme. L’International Fact-Checking Network a répondu à la fin du programme de vérification des faits de neuf ans dans une lettre ouverte peu après l’annonce de Zuckerberg en 2025, déclarant que « la décision de mettre fin au programme tiers de vérification des faits de Meta est un pas en arrière pour ceux qui veulent voir un Internet qui donne la priorité aux informations exactes et fiables ».
Les algorithmes derrière les plateformes de médias sociaux contrôlent quelles informations sont priorisées, répétées et recommandées aux personnes dans leurs flux et résultats de recherche. Mais malgré plusieurs rapports, études et changements de comportement des utilisateurs, les entreprises elles-mêmes n’ont pas fait grand-chose pour adapter la conception de leurs interfaces utilisateur afin de rattraper les modes d’interaction plus modernes et de faciliter une vérification significative des faits par les utilisateurs. Même lorsque les médias publient des corrections aux fausses informations et aux affirmations non fondées qu’ils perpétuent, cela ne suffit pas à réparer les dégâts. Comme le décrit First Draft News : « Il est très, très difficile de déloger la [désinformation] de votre cerveau. » Lorsque de fausses informations sont publiées en ligne ou dans les médias et commencent à circuler, même si elles sont supprimées en quelques minutes ou heures, le « mal est fait », pour ainsi dire. Les corrections et les clarifications reçoivent rarement autant d’attention que la fausse information originale, et même si elles sont visibles, elles peuvent ne pas être intériorisées.
Les algorithmes sont si répandus qu’ils peuvent paraître insignifiants à première vue, mais ils sont en réalité profondément significatifs. Des cas bien connus, comme celui du père qui a découvert que sa fille était enceinte grâce à ce qui était essentiellement un algorithme, et celui d’un autre père dont le bilan de l’année sur Facebook a « célébré » la mort de sa fille, illustrent comment les créateurs, développeurs et concepteurs de contenu organisé de manière algorithmique devraient tenir compte des pires scénarios. Les cas extrêmes, bien que rares, sont importants et justifient une inspection et des mesures d’atténuation.
En poussant le public dans le terrier du lapin, une multitude de rapports et d'études ont montré comment les algorithmes de recommandation sur les médias sociaux peuvent radicaliser les audiences en fonction du contenu qu'elles priorisent et diffusent. "L'indignation morale, en particulier, est probablement la forme de contenu en ligne la plus puissante." Une étude de 2021 a révélé que l’algorithme de TikTok conduisait les téléspectateurs de vidéos transphobes à des contenus violents d’extrême droite, y compris des messages racistes, misogynes et capacitistes. « Nos recherches suggèrent que la transphobie peut être un préjugé d’entrée menant à une radicalisation accrue de l’extrême droite. » YouTube a également été surnommé autrefois le « moteur de radicalisation » et semble toujours avoir des difficultés avec ses algorithmes de recommandation, comme le rapport le plus récent selon lequel YouTube Kids envoie les jeunes téléspectateurs dans des terriers de troubles de l'alimentation. À la veille des élections allemandes de 2025, des chercheurs ont découvert que les flux de médias sociaux sur toutes les plateformes, mais particulièrement sur TikTok, étaient biaisés à droite.
Les gens recherchent de plus en plus leurs informations de différentes manières, au-delà des médias d'information traditionnels. Un rapport de 2019 a révélé que les adolescents recevaient la plupart de leurs informations sur les réseaux sociaux. Un article de 2022 expliquait combien d’adolescents utilisent davantage TikTok que Google pour trouver des informations. La même année, une étude a exploré comment les adultes de moins de 30 ans font presque autant confiance aux informations provenant des médias sociaux qu’aux médias nationaux. Un rapport multi-pays de 2023 a révélé que moins de la moitié (40 %) du total des personnes interrogées « font confiance aux informations la plupart du temps ». Les chercheurs ont averti que la trajectoire du désordre de l’information pourrait amener les gouvernements à prendre progressivement davantage de contrôle sur l’information, ajoutant que « l’accès à des piles technologiques hautement concentrées deviendra un élément encore plus critique du soft power permettant aux grandes puissances de consolider leur influence ».
Les élections indonésiennes de 2024 ont vu l’utilisation d’avatars numériques générés par l’IA occuper une place centrale, notamment pour capter l’attention des jeunes électeurs. L'ancien candidat et aujourd'hui président Prabowo Subianto a utilisé un joli avatar numérique créé par l'IA générative sur les plateformes de médias sociaux, y compris TikTok, et a pu complètement renommer son image publique et remporter la présidence, détournant ainsi l'attention des accusations de violations majeures des droits de l'homme portées contre lui. L’IA générative, y compris les chatbots comme ChatGPT, est également un acteur clé du désordre informationnel en raison du réalisme et de la conviction des textes et des images qu’elle produit.
Même un contenu apparemment inoffensif sur des pages de spam comme « Shrimp Jesus » peut avoir des conséquences réelles, telles que l'érosion de la confiance, le fait de tomber dans le piège d'escroqueries et la violation de ses données par des courtiers qui réinjectent ces informations dans les systèmes, alimentant ainsi l'influence numérique. De plus, les résultats de l’IA générative peuvent être hautement contrôlés. « Les systèmes automatisés ont permis aux gouvernements de mener des formes de censure en ligne plus précises et plus subtiles », selon un rapport de Freedom House de 2023. « Les fournisseurs de désinformation utilisent des images, des sons et des textes générés par l’IA, ce qui rend la vérité plus facile à déformer et plus difficile à discerner. »
Comme cela a été répété à maintes reprises tout au long de cette série, la technologie n’est ni bonne ni mauvaise : elle dépend de l’usage pour lequel elle est utilisée. « La technologie hérite des politiques de ses auteurs, mais presque toutes les technologies peuvent être exploitées de manière à transcender ces cadres. » Ces différents cas d'utilisation et comparaisons peuvent être utiles lors de la discussion d'outils et de méthodes spécifiques, mais seulement à un niveau superficiel – par exemple, concernant les avatars numériques mentionnés dans cet article.
Un exemple clé vient du Venezuela, où le paysage médiatique regorge de messages pro-gouvernementaux générés par l’IA et où les personnes travaillant dans le journalisme sont menacées d’emprisonnement. En réponse, les journalistes ont utilisé des avatars numériques pour protéger leur identité et préserver leur confidentialité. Il s’agit bien d’une histoire de résilience, mais elle s’inscrit dans un contexte plus large et plus néfaste de pouvoir et de punition. Même si n’importe quel outil individuel peut révéler à la fois des avantages et des inconvénients dans ses cas d’utilisation, un zoom arrière et une vision d’ensemble révèlent que les systèmes et les structures de pouvoir mettent les gens en danger et que les compromis technologiques ne sont tout simplement pas symétriques.
Deux vérités peuvent exister en même temps, et le fait que la technologie soit utilisée pour exploiter la force et pour nuire et opprimer les gens est significatif.