Introduction

Lorsque vous demandez à des chatbots d'IA de pointe comme Chatgpt, Claude ou Gemini une question - peu importe le sujet - vous obtenez généralement une réponse confiante immédiatement.

Cela peut sembler rassurant au début, mais vous êtes-vous déjà retrouvé à vous demander: «Est-ce vraiment correct?», Ou plus tard, vous avez découvert que la réponse était erronée après la vérification?

Ce phénomène est appelé «hallucination AI». Il se réfère aux sorties qui semblent plausibles mais qui sont en fait incorrectes. Alors pourquoi l'IA, qui est censée aider les gens, s'abstenir de dire «je ne sais pas» quand quelque chose est incertain et réagit plutôt comme si c'était certain? (Ce n'est pas que l'IA ne puisse jamais dire «Je ne sais pas», mais structurellement, ils ont tendance à l'éviter.)

La fouille dans cette question révèle les mécanismes et la philosophie de conception de l'IA.

Les LLM sont des «dispositifs de prédiction probabiliste»

Pour commencer, il y a plusieurs raisons pour lesquelles l'IA ne peut pas dire «j...
[Courte citation de 8% de l'article original]