Plateforme API CON 2025 - Jour 2

J'ai eu l'occasion d'assister à la plate-forme API CON 2025 grâce à Sensiolabs et voici ce que j'ai appris à travers les pourparlers que j'ai vus.

Comment les LLM changent la façon dont nous devons construire des API (Fabien plus potentiel)

Des diapositives de cette conversation sont disponibles: https://speakerdeck.com/fabpot/how-ai-agents-are-changing-the-way-we-should-build-apis

Fabien plus potentiel a partagé des informations sur la façon dont les grands modèles de langue changent fondamentalement la façon dont nous devons penser à la conception de l'API. Comme il l'a mentionné, c'est un monde qui change si rapidement que certaines affirmations pourraient déjà être dépassées.

Agents?

Les LLM évoluent au-delà de la simple génération de texte en agents autonomes. Selon la définition d'Anthropic, un agent est un LLM utilisant des outils dans une boucle. Ces LLM sont autonomes - ils peuvent raisonner sur les choses, ils peuvent planifier et avoir de la mémoire.

Un agent d'IA est une sorte de mélange entre une machine et un humain, combinant la puissance de calcul des machines avec des capacités de raisonnement de type humain.

Qui peut consommer votre application?

À l'époque, les consommateurs étaient clairement définis:

Site web:

• Utilisateurs humains uniquement

Outils CLI:

• Uniquement pour les développeurs

API:

• Uniquement pour les machines
• Semi-privé (pour découpler le frontend) ou public

De nos jours, les API sont principalement utilisées pour exposer les données, mais les agents de l'IA ont complètement changé le jeu. Ils sont capables d'interagir avec les trois interfaces:

• Les sites Web peuvent être grattés par IA - les agents peuvent naviguer et extraire des informations des interfaces Web
• Les outils CLI peuvent être utilisés via des serveurs MCP - offrant un accès à outil structuré
• Les API - LLMS (par exemple, dans les chatbots) sont souvent des emballages au-dessus des API. De plus, les LLM peuvent également rédiger directement les appels d'API.

Mais tous les trois ont des attentes différentes, ce qui crée de nouveaux défis.

Le défi: API pour les humains vs machines vs agents d'IA

Les API sont optimisées pour les machines, mais lorsque quelque chose se casse, vous avez besoin d'un humain dans la boucle. Cependant, les agents de l'IA sont autonomes mais, comme les humains, ils ont besoin d'aide et de conseils.

Prenez l'exemple des codes d'état HTTP. Ils fournissent des informations sur les problèmes, mais les agents de l'IA ont besoin de plus de contexte. Les réponses HTTP peuvent fournir un contexte sur les erreurs, mais les réponses fournies par les API peuvent ne pas être à jour ou précises, ce qui a fait coincé les LLM.

Voici un schéma de flux de travail courant suivi de LLM: pensée → Action → Observation. Sans guide fournie via des invites, il peut boucle sur le même problème, rencontrant la même observation après avoir effectué la même action - potentiellement pour toujours. Les LLM essaieront de deviner et de s'auto-corriger, ce qui est probablement mauvais pour deux raisons:

• Cost - plus d'appels API et de traitement
• Perte de temps - résolution de problèmes inefficace
• Ressource gourmand - le temps et l'électricité du GPU sont consommés sans résoudre le problème

Astuce: moins vous avez moins d'aller-voyage avec un LLM, plus il devient "déterministe", même si les LLM ne sont pas intrinsèquement déterministes.

Meilleures pratiques pour les API conviviales LLM

Tout ce qui est valable pour les LLM est également valable pour les humains.

Messages d'erreur

Soyez précis avec vos messages d'erreur: "Format de mauvaise date. Utilisez 'Yyyy-mm-dd'." Avantages:

• Moins de jetons consommés
• Utilisation de fenêtres de contexte plus petite
• Résolution plus rapide

Dénomination cohérente

Utilisez le même modèle de dénomination partout. Par exemple, utiliserID de l'utilisateurde manière cohérente sur tous les points de terminaison. Avantages:

• Modèles prévisibles
• Les LLM comme la cohérence
• Plus facile à comprendre et à utiliser

Documentation

• Corrigez des exemples et supprimez le contenu obsolète
• Moins de problèmes et hallucinations
• Envisager d'utiliserllms.txtFichiers - Documentation spécifiquement formatée pour LLMS dans Markdown

Considérations de performance

Les agents de l'IA sont lents, donc la réduction du nombre de demandes fournit une augmentation significative des performances.

Conception de l'API d'abord intention

Concevez vos API pour capturer et préserver l'intention des utilisateurs plutôt que d'exposer simplement les opérations CRUD.

Test des défis

Tester les agents d'IA est super difficile car:

• Les LLM ne sont pas déterministes
• Vous devez régler la température à 0 pour des résultats plus cohérents
• Utiliser des invites concises
• En fin de compte, vous avez besoin d'un humain pour juger de la qualité des actions effectuées par le L...
  [Courte citation de 8% de l'article original]