Intelligence artificielle : un programme accusé de propager des préjugés sexistes et raciaux

Les machines peuvent-elles propager des préjugés sexistes ou raciaux ? Cette question est devenue récurrente avec le développement des outils d’intelligence artificielle (IA), qu’il s’agisse de préjugés sexistes ou raciaux. Le mois dernier, Rona Wang, une étudiante américaine d’origine asiatique a utilisé un programme d'IA pour retoucher un portrait d’elle pour faire plus "professionnelle", en vue de l’utiliser ensuite comme photo de profil sur le réseau LinkedIn.

À sa grande surprise, l’outil d’IA a grimé son visage lui donnant l’apparence d’une femme caucasienne, avec la peau blanche et les yeux bleus. "Ma première réaction en voyant le résultat a été l'amusement", a déclaré, au site américain Business Insider, la jeune femme. "Cependant, je suis heureuse de voir que cela a catalysé une conversation plus large sur les préjugés de l'IA et sur qui est ou n'est pas inclus dans cette nouvelle vague de technologie", poursuit-elle. Et pour cause. Rona Wang a partagé l’image sur le réseau social Twitter, ce qui a suscité de nombreuses réactions. 

Interrogée par le journal The Boston Globe, qui a été le premier à relayer la nouvelle, Rona Wang estime que les biais générés par ces outils pourraient avoir des conséquences bien plus graves. Par exemple, si une entreprise utilisait un programme d'IA pour sélectionner le candidat le plus professionnel pour un poste et qu'elle choisissait en priorité des personnes à la peau blanche. "C'est un problème. J'espère que les créateurs de logiciels sont conscients de ces biais et réfléchissent aux moyens de les atténuer", dit-elle.   

Suhail Doshi, fondateur de Playground AI, le nom du logiciel en question, a réagi à la publication de Rona Wang. "Les modèles ne sont pas programmés de la sorte et ils choisiront de ce fait n'importe quelle chose générique basée sur l'utilisateur. Malheureusement, ils ne sont pas assez intelligents", a déclaré, pour sa défense, le dirigeant, cité par le site Business Insider. "Nous sommes assez mécontents de cette situation et nous espérons la résoudre", a-t-il ajouté. Ce n'est pas la première fois que les biais raciaux ou sexistes des outils d'IA sont mis en cause. 

Outre-Atlantique, une récente étude a montré que 97 % des images produites par le logiciel d'IA générative DALL-E2 de la société OpenAI présentaient des problèmes de préjugés raciaux ou sexistes, rappelle le média américain. Ainsi, lorsqu'on lui demandait de générer des images de postes de pouvoir tels que "directeur" ou "PDG", le logiciel représentait la plupart du temps des hommes blancs. Selon les chercheurs, cela s'explique par le fait que l'outil d'IA a été formé à partir de données biaisées et donc susceptibles d'amplifier les stéréotypes.