Les points clés à retenir sur la gestion des token d'IA générative
Parmi tous les défis liés à la mise en œuvre de l'intelligence artificielle agentique, la question la moins bien comprise est celle du coût. Les fournisseurs d'IA, tels qu'OpenAI, Google et Anthropic, disposent de grilles tarifaires. Mais aucun de ces prix indiqués ne permet aux utilisateurs de savoir quel sera le montant final de la facture pour résoudre concrètement un problème.
Selon une nouvelle étude sur les coûts, cela pourrait entraîner un choc des prix. En clair, des coûts d'agents IA en forte hausse, et imprévisibles.
L'étude, intitulée « Comment les agents IA dépensent-ils votre argent ? Analyse et prévision de la consommation de jetons dans les tâches de codage agentique », est, selon les auteurs, « la première étude systématique sur la consommation de jetons par les agents IA ».
Elle a été publiée sur le serveur de prépublications arXiv.
Elle est remarquable car son auteur est Erik Brynjolfsson, un éminent économiste de Stanford qui s'est longuement exprimé sur l'impact de l'IA sur la productivité.
La principale conclusion est que les agents d'IA consomment bien plus de jetons qu...
[Courte citation de 8% de l'article original]