Rarement vous lirez un cas contenant des faits plus déchirants. En 2021, une fillette de 10 ans nommée Nylah Anderson regardait des vidéos sur TikTok, comme des millions de personnes le font chaque jour, lorsque l'algorithme de l'application a affiché une vidéo du soi-disant défi du black-out sur sa page « Pour vous ». La page suggère des vidéos que les utilisateurs peuvent regarder. Le défi du black-out encourage les gens à s’enregistrer tout en s’auto-asphyxiant, parfois au point de perdre connaissance. Nylah a vu le défi, l'a tenté elle-même et est décédée. Il s'est pendu accidentellement.
L’affaire est horrible et dévastatrice pour sa famille, mais elle pourrait également conduire à d’importantes réformes juridiques. Grâce à une décision clé de la cour d'appel, nous sommes peut-être sur le point d'imposer un certain bon sens constitutionnel aux géants américains des médias sociaux. La Cour d'appel américaine du troisième circuit de Philadelphie a jugé que TikTok pourrait potentiellement être responsable de ses propres actes si elle avait contribué à la mort de Nylah, en particulier le fait de lui avoir suggéré la vidéo, même si elle n'avait pas demandé à la voir.
Au centre du conflit juridique se trouve une seule question : qui est responsable de la mort de Nylah ? Blâmer une fille de 10 ans est absurde. Elle était à peine capable de comprendre le risque. Devons-nous blâmer la personne qui a créé la vidéo qu’elle a regardée ? Bien sûr. Une analogie hors ligne pourrait être utile. Imaginons qu'une personne s'approche de Nylah à l'école et lui suggère de l'étouffer. Nous reconnaîtrions immédiatement la culpabilité de cette personne.
Mais TikTok a-t-il une responsabilité ? Après tout, il n’a pas seulement hébergé la vidéo. Selon les affirmations de la plainte déposée par la mère de Nylah, l'algorithme de TikTok a lancé à plusieurs reprises des défis dangereux sur la page « Pour vous » de Nylah. Pour continuer l'analogie hors ligne, imaginez qu'un adulte s'approche de Nylah après l'école et lui dise : « Je te connais et je sais que tu vas aimer cette vidéo », puis lui montre un défi de black-out réalisé par quelqu'un d'autre.
Dans ces circonstances, l’adulte qui a présenté la vidéo à Nylah ne serait-il pas encore plus responsable que celui qui l’a réalisée ? Le simple fait que la recommandation vienne d'un adulte peut rendre Nylah pl...
[Courte citation de 8% de l'article original]