Les deepfakes sont partout. Le parrain de la criminalistique numérique riposte

Était-ce réel ? Le clip montrait une bande noire descendante à travers un ciel bleu clair, la silhouette d'un missile américain Tomahawk comme un oiseau de proie métallique plongeant pour le tuer. Puis l’impact, un panache de fumée noire s’élevant au-dessus des bâtiments, des palmiers et des fils électriques. Au moment où la vidéo est arrivée dans la boîte de réception de Hany Farid un dimanche matin de mars, les experts avaient déjà confirmé que la scène montrait Minab, la ville du sud de l’Iran où une frappe de missile avait tué plus de 150 personnes dans une école primaire de filles une semaine plus tôt. Le gouvernement américain a nié toute responsabilité, affirmant qu’un missile iranien malveillant était à blâmer. Mais la vidéo, diffusée dans la nuit par une agence de presse iranienne, raconte une tout autre histoire. Des journalistes avaient envoyé un e-mail à la société de Farid, GetReal Security, lui demandant de vérifier les images.

Farid, spécialiste de l’Université de Californie (UC) à Berkeley, est l’un des plus grands experts mondiaux pour déterminer si une photo ou une vidéo a été manipulée. Depuis qu’il a contribué à la création du domaine de la criminalistique numérique il y a plus de 20 ans, il a suivi le rythme des changements technologiques massifs. "Je le considère comme une sorte de doyen de la criminalistique numérique, car il s'y consacre depuis si longtemps", déclare Santiago Lyon, ancien directeur de la photographie chez Associated Press, qui travaille désormais sur la sécurité en ligne chez Adobe. Dans le domaine de l'intelligence artificielle (IA), Farid est confronté à son plus grand défi à ce jour.

Ce dimanche matin, installé devant un ordinateur avec sa femme, Emily Cooper, dans leur maison située dans les collines de Berkeley, Farid se rendit au travail. Son premier réflexe fut de se méfier. La guerre en Iran avait déjà produit une série d’images générées par l’IA. Pourquoi a-t-il fallu une semaine pour que cette vidéo soit rendue publique ? La faible résolution des images n’a pas non plus amélioré sa confiance.

Farid a d'abord examiné l'explosion. Les explosions d'IA ont tendance à être trop dramatiques, dit-il, avec beaucoup de feu et de fumée très gonflée, mais celle-ci semblait réaliste. (Quelques jours plus tôt, il avait fini d'écrire un article avec sa collègue Sarah Barrington sur les erreurs de l'IA à propos des explosions). Mais la question cruciale était celle du missile Tomahawk. En feuilletant la vidéo image par image dans son bureau du South Hall de l'UC Berkeley 2 jours plus tard, Farid a souligné la forme visible dans cinq images consécutives. "Un, deux, trois, quatre, cinq, boum. C'est tout ce que vous avez", a-t-il déclaré. Ajouter la petite silhouette aux images réelles de l’explosion n’aurait pas été difficile. « Vous n’avez pas besoin de l’IA pour cela », explique Farid. "Cela fait 10 minutes dans Photoshop."

Cependant, maîtriser la physique serait beaucoup plus délicat, même pour l’IA. Les Tomahawks sont automoteurs, mais sur la courte distance vue dans la vidéo, le missile devrait chuter en ligne droite, dit-il. Lorsque Farid a superposé numériquement les cinq cadres et les a alignés, le missile est tombé comme prévu. Après environ une heure de travail sur le problème ce dimanche matin, Farid a envoyé aux journalistes sa première évaluation : la vidéo semblait vraisemblablement réelle. Mais il n’était pas satisfait.

Farid et Cooper, un scientifique en vision par ordinateur également basé à l'UC Berkeley, ont récemment étudié la manière dont les gens jugent si les vidéos sont fausses. Ils ont découvert que nous parvenons mieux à identifier une vidéo comme générée par l’IA si nous avons plus de temps pour la regarder, car nous sommes plus susceptibles de récupérer un petit cadeau. Mais pour une vraie vidéo, plus de temps ne nous rend pas meilleurs pour prendre la bonne décision. De plus : même si nous prenons la bonne décision, notre confiance n’augmente pas avec le temps. "Si quelque chose est réel, vous regardez, regardez, regardez, regardez, regardez, et vous ne voyez jamais l'artefact et vous n'atteignez donc jamais le point de confiance élevé", explique Cooper. Elle a vu Farid suivre ce processus ce dimanche-là. "Analyse après analyse, il cherchait l'artefact, mais d'une manière ou d'une autre, l'absence de l'artefact n'a jamais fait augmenter sa confiance."

Plus tard dans la journée, Farid a décidé de vérifier encore une chose : le missile était-il de la bonne taille ? Un Tomahawk mesure environ ...
[Courte citation de 8% de l'article original]