Existe-t-il un bon moyen pour l’IA générative de Google de créer de fausses images de nazis ? Apparemment, selon l'entreprise. Gemini, la réponse de Google à ChatGPT, a été montré la semaine dernière comme générant une gamme absurde de soldats allemands de diverses races et genres, vêtus des costumes de la Wehrmacht. Il a naturellement été ridiculisé pour ne pas avoir généré d’images de nazis qui étaient en réalité blancs. Poussé plus loin, il semblait s’opposer activement à la génération d’images de Blancs. La société s’est finalement excusée pour « les inexactitudes dans certaines représentations de génération d’images historiques » et a suspendu la capacité de Gemini à générer des images mettant en vedette des personnes.
La situation a fait la couverture du New York Post et d'ailleurs, et Google, qui n'a pas répondu à une demande de commentaire, a déclaré qu'il s'efforçait de résoudre le problème. Prabhakar Raghavan, vice-président senior de Google, a expliqué dans un article de blog que la société avait intentionnellement conçu son logiciel pour produire des représentations plus diversifiées des personnes, ce qui s'est retourné contre lui. Il a ajouté : « Je ne peux pas promettre que Gemini ne générera pas occasionnellement des résultats embarr...
[Courte citation de 8% de l'article original]