Comment éduquer les modèles de langage ?

Sciences Et Avenir - 01/11
Le robot conversationnel Tay a été déconnecté au bout de 24 heures, après avoir tenu des propos racistes, antisémites, négationnistes. C'est tout ce que redoutent les développeurs d'agents conversationnels actuels.

Cet article est extrait du mensuel Sciences et Avenir n°933, daté novembre 2024.

Mis en ligne sur Twitter en mars 2016 par Microsoft, le robot conversationnel Tay n'existe plus mais reste un repoussoir. Pourquoi ? Il a été déconnecté au bout de 24 heures, après avoir tenu des propos racistes, antisémites, négationnistes. Il était censé apprendre à répondre à partir de ses interactions avec les internautes. Lesquels ont vite compris comment l'amener à déraper. C'est tout ce que redoutent les développeurs d'agents conversationnels actuels.