Gestion des erreurs Azure OpenAI dans le noyau sémantique

DEV - 08/01
Dans les systèmes du monde réel, il est crucial de gérer efficacement les erreurs HTTP, en particulier lors des interactions...

Dans les systèmes du monde réel, il est crucial de gérer efficacement les erreurs HTTP, en particulier lors de l'interaction avec des modèles de langage étendus (LLM) comme Azure OpenAI. Les erreurs de dépassement de limite de débit (jetons par minute ou requêtes par minute) se produisent toujours à un moment donné, entraînant 429 erreurs. Cet article de blog explore différentes approches de gestion des erreurs HTTP avec le noyau sémantique et Azure OpenAI.

Défaut

var builder = Kernel.CreateBuilder(); builder.AddAzureOpenAIChatCompletion (deploymentName : "gpt-4o-2024-08-06", point de terminaison : "https://resource-name.openai.azure.com", apiKey : "api-key"); // Ou DefaultAzureCredential
Ent...
[Courte citation de 8% de l'article original]
Loading...