Dans une vidéo TikTok savamment réalisée, on peut entendre l’ancien président Barack Obama – ou une voix étrangement semblable à la sienne – se défendre contre une nouvelle théorie du complot explosive sur la mort subite de son ancien chef.
Ouvrez cet article dans l'application New York Times Audio sur iOS.
"Bien que je ne comprenne pas le fondement des allégations portées contre moi", dit la voix, "j'exhorte tout le monde à se rappeler l'importance de l'unité, de la compréhension et de ne pas se précipiter pour porter des jugements".
En fait, la voix n’appartenait pas à l’ancien président. Il s’agissait d’un faux convaincant, généré par l’intelligence artificielle à l’aide de nouveaux outils sophistiqués capables de cloner de vraies voix pour créer une IA. marionnettes en quelques clics de souris.
La technologie utilisée pour créer l'A.I. Voices a gagné du terrain et a été largement acclamé depuis que des sociétés comme ElevenLabs ont publié une série de nouveaux outils à la fin de l'année dernière. Depuis lors, les contrefaçons audio sont rapidement devenues une nouvelle arme sur le champ de bataille de la désinformation en ligne, menaçant de dynamiser la désinformation politique à l’approche des élections de 2024 en donnant aux créateurs un moyen de mettre leurs théories du complot dans la bouche des célébrités, des présentateurs de nouvelles et des politiciens.
Le faux audio s’ajoute aux menaces générées par l’IA provenant de vidéos « deepfake », d’écritures humaines de ChatGPT et d’images de services comme Midjourney.
Les organismes de surveillance de la désinformation ont remarqué le nombre de vidéos contenant des informations sur l'IA. les voix se sont multipliées à mesure que les producteurs de contenu et les colporteurs de désinformation...
[Courte citation de 8% de l'article original]