Même les modèles d'IA générative les plus performants ont des hallucinations. Ou génèrent des informations inexactes présentées comme des faits. OpenAI affirme désormais comprendre pourquoi. Et propose une solution.
Dans une étude publiée la semaine dernière, une équipe de chercheurs soutient que les hallucinations ne proviennent pas de la qualité des données d'entraînement d'un modèle. Mais plutôt de mesures incitatives d'évaluation défectueuses. Ces mesures, largement utilisées dans le secteur, privilégient les suppositions plutôt que l'aveu de l'incertitude.
« Les LLM sont optimisés pour être performants aux tests, et deviner en cas d'incertitude améliore les performances des tests », écrivent les auteurs dans l'article.
Les modèles sont entraînés à identifier des schémas mathématiques subtils à partir d'un énorme corpus de données d'entraînement, qu'ils utilisent ensuite comme cadre pour générer des réponses aux requêtes des utilisateurs. Le paradigme d'éval...
[Courte citation de 8% de l'article original]