Du racisme larvé dans les réponses des IA génératives

Sciences Et Avenir - 18/03
Dans les modèles de langage, le racisme explicite visant les noirs est corrigé autant que possible. Mais des préjugés raciaux plus sournois s'expriment car la technologie repère des façons de parler propres aux afro-américains.

En matière de racisme, il y a le propos explicite, à base d’insultes, de violence verbale. Et le racisme larvé, presque inconscient tant les préjugés et la discrimination ont été intégrés. Un groupe de chercheurs de l’Allen Institute for AI, un organisme à but lucratif créé par le cofondateur de Microsoft Paul Allen, et de l’université Stanford (Etats-Unis) vient de montrer que les modèles de langage diffusent parfaitement ce racisme insidieux dans les contenus qu’ils génèrent, tant leurs données d’entraînement en sont remplies.

Héritage de l'esclavage et de la période coloniale