La ardue bataille contre la bêtise de l’IA

Parfois, cela n’apparaît qu’au deuxième coup d’œil : mais les programmes d’IA commettent encore d’énormes erreurs. Cela est dû notamment à un problème central. Les chercheurs recherchent des solutions depuis longtemps – une entreprise allemande a trouvé sa propre issue.

Si vous demandez à l'intelligence artificielle de Google, Gemini, combien de lettres « R » contiennent le mot fraise, Gemini se fera un plaisir d'annoncer : « La lettre « R » apparaît une fois dans le mot fraise. » Lorsqu'on lui demande « Êtes-vous sûr ? », répond Gemini. à : « Si l'on parcourt le mot « fraise » lettre par lettre, on ne trouve qu'un seul « R » en deuxième position. Fraise. Il n'y a plus de « R » dans ce mot. » Après cela, les Gémeaux préféreront expliquer la meilleure façon de cueillir les fraises.

Tout cela serait drôle si l'incapacité des Gémeaux à gérer les chiffres et les lettres ne représentait pas un problème fondamental avec l'IA : les grands modèles de langage (LLM) proclament souvent des contre-vérités avec un ton de conviction.

Ils ont particulièrement du mal à représenter des connexions logiques ou des nombres. "Gemini est conçu comme un outil de créativité et de productivité et n'est pas toujours fiable", a déclaré au printemps le chef de produit Google, Prabhakar Raghavan, co...
[Courte citation de 8% de l'article original]