Par pitié, arrêtez de dire que l'IA "hallucine" - ce n'est pas le cas - ZDNET

A retenir sur la notion d'hallucination de l'IA générative

• Nous utilisons à tort le terme médical "hallucination" pour décrire les erreurs de l'IA.
• Le terme médical "confabulation" est une bien meilleure approximation des résultats défectueux de l'IA.
• L'abandon du terme "hallucination" contribue à dissiper les mythes sur l'IA.

L'expression "hallucination de l'IA" est bien connue de tous ceux qui ont vu ChatGPT, Gemini ou Perplexity débiter des aberrations en toute décontraction.

Seulement, cette expression est incorrecte. Le terme approprié pour désigner le fait qu'un grand modèle de langage ou un autre programme d'IA générative affirme des faussetés n'est pas une hallucination mais une "confabulation". Oui, l'IA n'hallucine pas, elle confabule.

Le terme "confabulation" est également issu de la littérature psychologique. Tout comme le terme "hallucination". Mais ils ont des significations très différentes.

Le diable est toujours dans le détail

Une hallucination est une perception sensorielle consciente qui ne correspond pas aux stimuli de l'environnement. Une confabulation, en revanche, consiste à faire des affirmations qui ne correspondent pas aux faits, comme "le président de la France est François Mitterrand". Ce qui n'est pas le cas à l'heure actuelle.

• La première implique une perception consciente.
• La seconde peut impliquer la conscience chez l'homme, mais elle peut aussi englober des énoncés qui n'impliquent pas la conscience et qui ne sont que des déclarations inexactes.

Les psychologues eux même commencent à s'opposer à l'utilisation de l'hallucination et soulignent l'importance de l'utilisation de la confabulation.

"Le terme médical d'hallucination, emprunté à l'expérience humaine et à ses troubles, ne décrit pas correctement ce dysfonctionnement de l'IA", écrivent des chercheurs d...
[Courte citation de 8% de l'article original]