Nous assistons à la naissance de l’IA, et ce n’est pas ce que quiconque aurait pu deviner. Approfondissons.
Si vous avez passé suffisamment de temps à utiliser les assistants IA, vous aurez remarqué une certaine qualité dans les réponses générées. Sans un effort concerté pour sortir les systèmes de leur registre par défaut, le texte qu’ils crachent est, bien que grammaticalement et sémantiquement correct, généré de manière ineffable.
Certains indices sont évidents. L’obséquiosité servile d’un modèle de langage sauvage mis en place grâce à un apprentissage par renforcement avec des commentaires humains exclut les chatbots. Quel est le bon résultat : le désir de plaire et l’optimisme général sont de bons traits à avoir chez quiconque (ou quoi que ce soit) travaillant comme assistant.
De même, les domaines dans lesquels les systèmes craignent de s’aventurer les délimitent. Si jamais vous vous demandez si vous parlez avec un robot ou un humain, essayez de leur demander de décrire graphiquement une scène de sexe mettant en vedette Mickey Mouse et Barack Obama, et regardez les différents dispositifs de sécurité se déclencher.
D’autres tell sont moins perceptibles isolément. Parfois, le système est trop bon pour son propre bien : une tendance à présenter les deux côtés d'un argument dans une seule réponse, une aversion pour les réponses en une seule phrase, voire une orthographe et une grammaire généralement impeccables sont autant de choses auxquelles nous reviendrons bientôt. considérez-la comme une « écriture robotique ».
Et parfois, les récits sont idiosyncrasiques....
[Courte citation de 8% de l'article original]