Plusieurs sociétés, telles que Meta, propriétaire de Facebook et Instagram, et X Company (anciennement Twitter), ont supprimé des millions de publications après l'attaque du Hamas et la réponse israélienne au bombardement de Gaza, sur la base de lois liées au contenu, qui incluent généralement un avertissement contre publier du matériel violent ou inciter à la violence et à la haine.
L’expert en technologie Salloum Al-Dahdah confirme que « ces sociétés fonctionnent selon un mécanisme spécifique soumis aux termes et conditions d’accord que l’utilisateur accepte généralement avant de créer son compte ».
Al-Dahdah a expliqué : « Cet accord comprend généralement des clauses qui permettent aux entreprises de supprimer automatiquement les publications en cas de violation », notant que « la plupart des utilisateurs ne scrutent pas les détails des termes et conditions convenus par eux ».
Il a souligné que "les entreprises peuvent supprimer automatiquement n'importe quelle publication sans consulter l'utilisateur, et il existe aujourd'hui de nombreuses lois internationales réglementant les publications qui criminalisent les sociétés de médias sociaux en cas de contenu inacceptable".
Quant au fonctionnement des algorithmes, ils utilisent divers facteurs pour déterminer quel contenu sera affiché aux utilisateurs et quel contenu doit être supprimé.
Al-Dahdah explique que les algorithmes « fonctionnent automatiquement pour montrer les sujets qui intéressent habituellement l'utilisateur », ajoutant qu'« il existe une possibilité pour les entreprises de les contrôler, de montrer ce qu'elles veulent montrer aux utilisateurs en fonction de leurs intérêts et orientations. »
L'expert en technologie, Amr Samy, affirme qu'il existe deux facteurs fondamentaux qui contrôlent le mécanisme de surveillance du contenu et le travail des algorithmes.
Il explique dans son discours : « La plupart des réseaux sociaux utilisent l’intelligence artificielle pour identifier les contenus inappropriés, et c’est le premier facteur ».
Le deuxième facteur, selon Sami, est « la position de dizaines de milliers d’employés qui ont été embauchés spécifiquement pour surveiller le contenu, qu’il s’agisse de discours de haine, d’exposition à des enfants ou de tout contenu...
[Courte citation de 8% de l'article original]