La plupart des garde-fous d'agents font une chose : bloquer. L'agent respecte une règle, le flux de travail s'arrête et l'utilisateur doit intervenir. Agent Control ajoute une deuxième option : diriger : l'agent reçoit des conseils correctifs, s'auto-corrige et termine la tâche sans intervention humaine.
Aujourd’hui, les garde-fous des agents sont binaires : autoriser ou refuser. Lorsqu'un agent enfreint une politique, la réponse typique consiste à bloquer l'action et à faire apparaître une erreur. Cela fonctionne pour des contraintes strictes (conformité PCI, blocages réglementaires), mais cela crée des frictions pour les règles où l'agent pourrait résoudre le problème lui-même : ajuster un paramètre, rédiger des données sensibles ou reformater une sortie.
Agent Control est un plan de contrôle d'exécution open source qui introduit des contrôles de direction aux côtés des blocs traditionnels. Les commandes de direction renvoient un guidage correctif viaGuide()— l'agent réessaye avec le correctif appliqué et termine la tâche. Les règles résident sur un serveur, pas dans le code : mettez-les à jour via l'API ou le tableau de bord sans redéployer votre agent.
Cet article montre comment fonctionne Agent Control à l'aide d'une démo de réservation créée avec Strands Agents. Nous comparons deux approches sur le même scénario : les hooks qui bloquent vs Agent Control qui dirige. Les crochets et le contrôle des agents sont complémentaires : utilisez des crochets pour les blocs durs, dirigez-vous vers les corrections.
Il s'agit d'un article bonus dans la série sur l'arrêt des hallucinations des agents IA — ajouté après le lancement d'Agent Control :
Partie 1 : RAG vs GraphRAG : Quand les agents hallucinent des réponses – Graphiques de connaissances sensibles aux relations empêchant les hallucinations dans les agrégations et les requêtes précises. Partie 2 : Réduire les erreurs d'agent et les coûts de jetons grâce à la sélection d'outils sémantiques – Filtrage d'outils vectoriel pour une sélection précise des outils. Partie 3 : Garde-corps d'agent IA : règles que les LLM ne peuvent pas contourner – Règles symboliques que le LLM ne peut pas contourner. Bonus Partie 3.2 : Contrôle des agents (cet article) – Orienter au lieu de bloquer Partie 4 : Validation multi-agents — Les équipes d'agents détectent les hallucinations avant les dommages.