Leanne Manas est un visage familier des télévisions sud-africaines. Vers la fin de l’année 2023, le visage de la présentatrice du journal télévisé du matin est apparu ailleurs : dans de faux reportages et de fausses publicités dans lesquelles « elle » semblait promouvoir divers produits ou des programmes pour devenir riche rapidement.
Il est rapidement apparu que Manas avait été victime d’un « deepfaking ». Les deepfakes impliquent l’utilisation d’outils d’intelligence artificielle pour manipuler des images, des vidéos et de l’audio. Et cela ne nécessite pas de savoir-faire technique de pointe. Des logiciels comme FaceSwap et ZaoApp, téléchargeables gratuitement, permettent à n’importe qui de créer des deepfakes.
Les deepfakes ont été initialement utilisés dans l’industrie du divertissement. Par exemple, une actrice en France qui n’a pas pu filmer ses rôles en personne pour un feuilleton en raison des restrictions liées au COVID a quand même joué le rôle grâce aux deepfakes. Dans le secteur de la santé, les algorithmes d’apprentissage profond, responsables des deepfakes, sont utilisés pour détecter les tumeurs grâce à la correspondance de modèles dans les images.
Mais ces applications positives sont rares. Il existe une inquiétude croissante à l’échelle mondiale quant aux effets que les deepfakes pourraient avoir sur les élections démocratiques. Des rapports récents suggèrent que les deepfakes sont en hausse en Afrique du Sud et que les Sud-Africains semblent avoir du mal à les repérer.
Il est donc inquiétant que le gouvernement sud-africain n’ait encore pris aucune mesure législative pour lutter contre les deepfakes – en particulier à l’approche des élections nationales prévues plus tard cette année. Je suis juriste spécialisé en droit du sport, avec une attention particulière au droit à l'image. Je m’intéresse particulièrement à la reconnaissance du droit à l’image d’un individu et à la situation juridique lorsque son image est détournée sans son consentement. Cela inclut l’utilisation de deepfakes.
Dans ma thèse de LLD, j’ai soutenu que l’image d’une personne a besoin d’une protection juridique claire, en tenant compte des réalités des médias numériques et du fait que de nombreuses personnes telles que les influenceurs, les athlètes et les célébrités génèrent des revenus en marchandisant leur image en ligne. La promulgation d’une législation créera une sécurité juridique en Afrique du Sud en ce qui concerne l’image d’un individu.
Différents États américains ont déjà pris des mesures pour lutter contre les deepfakes, principalement dans le contexte des élections. Par exemple, le Texas est devenu l’un des premiers États à criminaliser l’utilisation des deepfakes, surtout si le contenu du deepfake est lié à des élections politiques. Il a également récemment adopté un deuxième projet de loi qui cible les deepfakes sexuellement explicites. C’est donc une infraction pénale que de créer une vidéo deepfake dans l’intention de blesser un candidat politique ou d’influencer le résultat d’une élection, ou de distribuer des deepfakes sexuellement explicites sans le consentement de l’individu, dans l’intention de l’embarrasser.
Le Maryland et le Massachusetts, quant à eux, ont proposé une législation interdisant spécifiquement l’utilisation de deepfakes. Le Maryland prévoit de cibler les deepfakes susceptibles d’influencer la politique ; Le Massachusetts veut criminaliser l’utilisation de deepfakes pour une conduite déjà « criminelle ou délictuelle (répréhensible) ».
Lire la suite : Algorithmes, bots et élections en Afrique : comment les réseaux sociaux influencent les choix politiques
En 2020, la Californie est devenue le premier État américain à criminaliser l’utilisation de deepfakes dans la promotion et la publicité des campagnes politiques. Le projet de loi AB 730 érige en délit la publication d’un contenu audio, d’images ou d’une vidéo qui donne une impression fausse et préjudiciable des paroles ou des actions d’un homme politique. Bien que le projet de loi ne mentionne pas explicitement les deepfakes, il est clair que les contrefaçons fabriquées par l’IA constituent sa principale préoccupation.
En 2023, le gouverneur de New York a signé le projet de loi 1042A du Sénat. Celui-ci vise à interdire la diffusion de deepfakes en général, et pas seulement en relation avec les élections.
Au moins quatre projets de loi fédéraux sur les deepfakes ont été examinés. Il s’agit notamment de la loi sur l’identification des résultats des réseaux contradictoires génératifs et de la loi sur la responsabilité des Deepfakes.
Il n’existe actuellement aucune reconnaissance du droit à l’image dans la jurisprudence ou la législation sud-africaine. Le droit à l’image est distinct du droit d’auteur en droit. L’étendue de la protection offerte par le droit d’auteur ne suffirait pas à elle seule à résoudre le problème des deepfakes devant les tribunaux.
Je plaide pour une intervention juridique qui reconnaît les droits individuels à l’image. En reconnaissant un droit à l'image, l'image sera protégée contre toute utilisation non autorisée. Cela inclura non seulement le détournement d’une image individuelle à des fins commerciales, mais luttera également contre les deepfakes, qu’ils soient liés aux élections et aux politiciens ou à toute manipulation de l’image d’une personne à des fins malveillantes.
La législation sur le droit à l’image est essentielle. Ça peut:
définir clairement l’image d’un individu
préciser quand une violation de l'image a eu lieu
fournir au titulaire du droit à l’image des recours légaux en cas d’utilisation non autorisée.
Tout cela peut aider à réguler les situations de deepfake. La nature malveillante et trompeuse des deepfakes peut causer un préjudice important au titulaire du droit à l’image. Il est temps que le législateur sud-africain s’attaque à ces situations en offrant la protection nécessaire aux individus.