🔥 Compression vs cognition: pourquoi la pensée simulée n'est pas une réelle pensée

Le mirage de l'intelligence de l'IA

Il y a quelques années, je me suis retrouvé fasciné par la maîtrise soudaine des grands modèles de langage. Je travaillais dans l'IA depuis un certain temps en train de construire des agents, de peaufiner des invites, d'explorer les systèmes symboliques. Mais quelque chose à propos de la sortie de GPT semblait ... différent. Ce n'était pas seulement intelligent. C'était lisse. Cela ressemblait à ce qu'il comprenait.

Je me souviens du moment exact: j'ai nourri une transcription brute d'une conversation profondément émotionnelle dans un LLM local et lui ai demandé de détecter l'accord et les changements de tension. Cela a donné un résumé incroyablement bon. Pendant une fraction de seconde, j'avais l'impression de parler à quelque chose qui «l'a compris».

Mais je suis dans ce jeu depuis assez longtemps pour reconnaître ce sentiment comme un piège. Ce que nous vivons comme intelligence est souvent une projection. Une simulation. Une performance.

Les gros titres crient des chatbots sensibles, de l'intelligence générale artificielle (AGI) et de l'avenir imminent de la conscience des machines. Mais derrière le buzz se cache un malentendu profond: nous confondons la simulation pour la pensée et la compression pour la co...
[Courte citation de 8% de l'article original]