La détection des textes générés par l’IA, une bataille perdue d’avance ?

Blog Du Moderateur - 25/06
Plus de trois ans après l'émergence de ChatGPT, il n'est toujours pas possible de déterminer avec certitude si un contenu a été généré par une IA. Entre attentisme des acteurs et limites techniques, le dossier s'enlise.
Sommaire
  1. Les tentatives avortées d’OpenAI
  2. Un filigrane universel qui ne l’est pas encore
  3. Un marché né dans l’urgence
  4. Un indicateur, jamais une certitude
  5. Le web indexe et valorise sans distinguer l’homme de la machine

Il aura fallu du temps, mais OpenAI sait désormais reconnaître les images générées par ses modèles. En mai dernier, la firme a déployé publiquement un outil en ligne capable de détecter si un visuel a été créé à l’aide de ChatGPT ou de son API, en croisant les métadonnées C2PA et le filigrane invisible SynthID développé par Google DeepMind.

Une avancée qui se sera fait désirer, et qui ramène dans son sillage une question récurrente : pourquoi, plus de trois ans après l’émergence de ChatGPT, la détection des textes générés par IA patine-t-elle encore ? Et, aussi, pourra-t-on un jour distinguer un texte produit par un robot de celui rédigé par un humain, alors que certaines études, peut-être alarmistes, estiment que plus de la moitié des articles publiés sur le web sont désormais synthétiques ?

Les tentatives avortées d’OpenAI

Naturellement scrutée dans ce dossier en raison de son statut de pionnier, la société créatrice de ChatGPT était passée proche de transformer l’essai, il y a de cela plusieurs mois. En août 2024, le Wall Street Journal révélait qu’OpenAI disposait, depuis environ un an, d’un système de watermarking textuel, « invisible à l’œil nu », permettant de déterminer avec certitude si l’intégralité ou une parti...
[Courte citation de 8% de l'article original]