Les factures d'IA n'envoient pas d'avertissements : contrôle budgétaire dans Laravel avec laravel-ai-tasks

DEV - 20:15
Votre premier appel IA n’a aucun coût. Il n'en a pas besoin - c'est une requête, vous testez,...

Votre premier appel IA n’a aucun coût. Il n’en a pas besoin – c’est une requête, vous testez, tout va bien.

Ensuite, il est expédié. Les tentatives s'accumulent, un gestionnaire de file d'attente récupère un retard du jour au lendemain, un locataire envoie dix fois le trafic de tous les autres combinés, et personne ne le remarque jusqu'à ce que la facture du fournisseur arrive à la fin du mois. Il n’y avait aucun moment dans le cycle de vie de la demande où quelque chose aurait pu dire « stop ».

laravel-ai-tâchesconstruit ce point d'arrêt, en tant qu'élément de première classe du flux de répartition - pas un rapport que vous vérifiez une fois le dommage causé.

Deux chèques, pas un

Vérifier le budget uniquement avant l'appel ne suffit pas, car vous ne connaissez pas le coût réel d'un appel jusqu'à ce que le fournisseur réponde en utilisant le jeton. Un locataire dont le budget est inférieur de 2 $ peut envoyer une demande qui coûte 5 $ — un contrôle avant vol uniquement lui permettrait de passer.

Le paquet vérifie donc deux fois :

VérifierQuandUtilisations
Avant le volAvant l'appel du fournisseurDépenser jusqu'à présent ce mois-ci
Après l'appelJuste après la réponseLe coût réel de cette réponse

Les deux jettentBudgetExceededException. Les deux fonctionnent...
[Courte citation de 8% de l'article original]

Loading...