Les agents IA ont souvent fière allure dans les démos.
Les tâches courtes se déroulent sans problème. Les sorties semblent intelligentes. Tout semble sous contrôle.
Ensuite, le même agent est déployé dans un système réel — et des problèmes subtils commencent à apparaître :
le comportement devient incohérent
les décisions dérivent avec le temps
les échecs ne peuvent pas être reproduits ou audités
Au début, cela est généralement imputé au modèle ou à la qualité rapide. En pratique, ce diagnostic est presque toujours erroné.
Les environnements de démonstration cachent des défauts structurels
Les démos pardonnent.
Ils impliquent :
chemins d'exécution courts
état minimal
possibilité limitée d’accumulation d’erreurs
Dans ce contexte, les objectifs s’inscrivent dans la conversation, les décisions restent implicites et l’exécution découle directement du raisonnement.
À mesure que les tâches s’allongent, les résumés écrasent l’historique, les premières erreurs se transforment en hypothèses et les objectifs dérivent tranquillement.
Sans un Runtime et un StateVector explicites, le système n'a pas de surface de contrôle stable.
Le « caractère aléatoire du LLM » est souvent un diagnostic erroné
Lorsque la même entrée produit des résultats différents, cela est généralement expliqué par un comportement stochastique.
D’un point de vue technique, la cause est plus concrète :
les décisions dépendent de l'ordre implicite du contexte
l'allocation de l'attention varie selon les exécutions
le comportement n'est pas lié à un état d'exécution explicite
Sans Execution Trace, la r...
[Courte citation de 8% de l'article original]