Microsoft Foundry est une plate-forme permettant de créer et d'exploiter des applications d'IA agentique. Foundry commence avec la plus large sélection de modèles sur n'importe quel cloud – modèles de Microsoft, OpenAI, Anthropic, Meta, Mistral, DeepSeek, Hugging Face et autres, couvrant les pondérations frontières, open source et personnalisées – tous accessibles via un seul point de terminaison et un seul ensemble de SDK en Python, C#, JavaScript et Java.
Au-dessus de ces modèles se trouve le Foundry Agent Service : une orchestration multi-agents avec mémoire intégrée, des connaissances fondées via Foundry IQ et un catalogue d'outils connectables via des protocoles agents, afin que les agents puissent travailler avec les données de l'entreprise. Une fois les agents exécutés, Foundry fournit un traçage de bout en bout, une surveillance en temps réel, des évaluations continues et un optimiseur d'invite qui améliore le comportement des agents en fonction des résultats d'évaluation - des boucles d'observabilité et de qualité qui font partie de la plateforme.
Parallèlement, les développeurs ont accès à :
Outre le paiement par jeton (chemin de friction le plus faible pour démarrer) et le débit provisionné (charges de travail de production prévisibles et hautes performances sur des modèles frontières), Foundry Managed Compute est la troisième option de déploiement de Foundry : une plate-forme GPU gérée en tant que service pour les modèles open source et personnalisés.
Vous déployez une instance de modèle décrite par les éléments importants pour votre charge de travail (nombre de paramètres, longueur du contexte et si vous souhaitez optimiser la latence ou le débit) et Foundry gère la topologie GPU en dessous, que l'instance atterrisse sur un ou plusieurs accélérateurs, de sorte que vous réfléchissez et planifiez en termes de modèle.
Microsoft prend soin de la machine : les mises à jour des conteneurs, les mises à niveau du runtime et les correctifs de sécurité s'effectuent automatiquement sur les runtimes pris en charge (vLLM, SGLang, TensorRT-LLM, NIM, TEI, lama.cpp) ...
[Courte citation de 8% de l'article original]