J'ai fabriqué une solution alternative MCP (Model Context Protocol), pour Openai et tous les autres LLM, qui est moins cher que le claude anthropique

DEV - 09/03
Préface I a fait une alternative MCP (Protocole de contexte modèle). Ma solution alternative est ...

Préface

J'ai fait une alternative MCP (Model Context Protocol).

Ma solution alternative consiste à utiliser la fonction d'appel de la fonction LLM, fournie par Swagger / OpenAPI et les fonctions de classe TypeScript, améliorée par la stratégie de rétroaction du compilateur et de validation. Avec ces stratégies, vous pouvez complètement remplacer le MCP de Claude anthropique à des modèles beaucoup plus petits commeGPT-4O-MINI(Possible de remplacer en LLM local).

Vous trouverez ci-dessous une démonstration de ma solution alternative, de la recherche et de l'achat de produits dans un centre commercial. Son serveur Bacakend est composé avec 289 Nombre de fonctions API, et je pourrais appeler toutes ces fonctions API uniquement par des textes de conversation dans leGPT-4O-MINImodèle de8bparamètres.

  • Référentiels connexes
    • @ Samchon / OpenAPI: Swagger / OpenAPI pour fonctionner le schéma d'appel
    • typia:typia.llm.application()fonction
    • @Nestia: Tapez le constructeur OpenAPI Safe dans NESTJS
    • @agentica: Framework AI agentique utilisant ci-dessus (à venir bientôt)
  • Shopping AI CHATBOT Demonstration
    • @ samchon / shopping backend: Serveur backend construit par@Nestia
    • Shoppingchatapplication.tsx: Code d'application d'agent construit par React.
import {agetica} de "@ agetica / core"; import {httplllm, openapi} de "@ samchon / openapi"; importer typia de "typia"; const Agent = new Agentica ({service: {api: new Openai ({apikey: "*****"}), modèle: "gpt-4o-mini",}, contrôleurs: [httplllm.Application ({modèle: "chatppt", document: openapi.convert (Await fetch ( "https://shopping-be.wrtn.ai/editor/swagger.json",) .then (r => r.json ()))}), typia.llm.application(), typia.llm.application(), typia.llm.application(),],}); Await Agent.Conversate ("Je veux acheter MacBook Pro");
Entrez le mode de sortie en mode plein écran

Scripts:

  • Que pouvez-vous faire?
  • Serait-il des ventes sur le marché?
  • Je veux voir des informations détaillées sur MacBook Sélectionnez le stock (argent, 16 Go, 1 To, anglais) et mettez-le dans le panier, apportez le panier à la commande, je vais le payer avec de l'argent, et mon adresse est ~

Fonction d'appel

LLM sélectionne la fonction appropriée pour appeler et remplissez ses arguments.

  • https://platform.openai.com/docs/guides/fonction-calling
  • https://platform.openai.com/docs/guides/structured-utputs

LLM (modèle grand langage) L'appel de fonction signifie que le LLM sélectionne la fonction appropriée et remplit les arguments en analysant les contextes de conversation avec l'utilisateur. Il existe un concept similaire appelé Structured Output, ce qui signifie que LLM transforme automatiquement la conversati...
[Courte citation de 8% de l'article original]

Loading...