A retenir sur les "chaînes de pensée"
Depuis que les programmes d'intelligence artificielle ont commencé à impressionner le grand public, des spécialistes de l'IA vont jusqu'à affirmer qu'elle est en chemin pour comprendre aussi bien que l'Homme.
Pourtant, même les scientifiques qui ont créé des modèles d'IA tels que le GPT-5 d'OpenAI ne comprennent pas vraiment comment ces programmes fonctionnent.
En tout cas pas entièrement. Avouez que c'est croquignolet.
Les programmes d'IA tels que les LLM sont tristement célèbres pour être des "boîtes noires". Ils accomplissent beaucoup de choses impressionnantes, mais pour la plupart, nous ne pouvons pas observer tout ce qu'ils font entre le prompt que vous tapez, et le résultat donné.
Des scientifiques utilisent des termes familiers tels que "raisonnement" pour décrire la manière dont les programmes fonctionnent. Ce faisant, ils sous-entendent ou carrément affirment que les programmes peuvent "penser", "raisonner" et "savoir" de la même manière que les humains.
En fait depuis deux ans sur ce point, la rhétorique a pris le pas sur la science.
Le communiqué de presse d'OpenAI de septembre 2024 annonçant son modèle de raisonnement o1 indiquait que "de la même manière qu'un humain peut réfléchir longtemps avant de répondre à une question difficile, o1 utilise une chaîne de pensée lorsqu'il tente de résoudre un problème", de sorte que "o1 apprend à a...
[Courte citation de 8% de l'article original]