Stratoclave : une passerelle de crédit adaptée aux locataires pour Amazon Bedrock - désormais avec prise en charge du codex OpenAI

DEV - 03/06
Si vous laissez une équipe partager un seul compte AWS pour Amazon Bedrock, vous vous posez rapidement des questions...

Si vous laissez une équipe partager un seul compte AWS pour Amazon Bedrock, vous vous heurtez rapidement à des questions auxquelles Bedrock seul ne répond pas : qui a appelé quel modèle, sous quel budget, à travers quelle identité. Stratoclave est une petite passerelle OSS qui place ces réponses devant Bedrock sans avoir recours à Postgres, Redis ou à un plan de contrôle SaaS.

Il a été écrit à l'origine pour moi-même – je voulais juste des crédits par utilisateur devant Bedrock pour un usage personnel de Claude Code. Il est devenu quelque chose qui couvre désormais également le codex OpenAI / GPT-5.x via Bedrock'smanteau rocheuxpoint final.

Dépôt :Littlemex/stratoclave(Apache 2.0, alpha)

Ce que ça fait réellement

Stratoclave est un service FastAPI unique sur ECS Fargate qui expose deux routes d'inférence :

ItinéraireFormat de filBack-end
POST /v1/messagesAPI de messages anthropiquessubstrat rocheux : Converseaux états-unis-est-1
POST /openai/v1/responsesAPI de réponses OpenAImanteau rocheuxaux états-unis-est-2 / us-ouest-2

Les deux routes partagent la même réservation de crédit soutenue par DynamoDB, la mêmemessages:envoyer/réponses:envoyerPortées RBAC, le même journal d'audit et les trois mêmes chemins d'identité (mot de passe Cognito, AWS SSO via Vouch-by-STS, longue durée de viesk-stratoclave-*clés).

Le plan de contrôle est constitué d'une région AWS (us-east-1) et d'une tâche Fargate. Le fondement d’OpenAI est interrégional, mais aucune deuxième région de plan de contrôle n’est déployée.

L'écran de connexion de la console Web redirige vers l'interface utilisateur hébergée de Cognito pour la connexion par mot de passe/SSO ; Les utilisateurs CLI exécutent à la placeconnexion d'authentification stratoclavepuis mettez cet onglet en évidence avecinterface utilisateur de la stratoclave ouverte.

Ce que je voulais réellement : des crédits par locataire et par utilisateur

La raison pour laquelle cela existe. Chaque appel d'inférence réserve atomiquementmax_tokens + input_estimatedu budget de l'appelant avec un conditionnelMettre à jour l'élément, invoque l'amont, puis rembourse la différence ...
[Courte citation de 8% de l'article original]

Loading...