Tout le monde parle de Ministral 3 3B, alors je voulais voir de quoi il s’agissait. 🤨
Testons-le correctement. Nous allons commencer par la partie amusante et l'exécuter directement dans le navigateur à l'aide de WebGPU, entièrement local.
Ensuite, nous passerons à la configuration pratique et exécuterons une version quantifiée avec Ollama, la brancherons sur Open WebUI et testerons de véritables appels d'outils. D’abord avec des petits outils Python locaux, puis avec des outils MCP distants via Composio.
Nous aborderons quelques spécifications, puis passerons aux tests pratiques, alors allons-y.
Dans ce guide pratique, vous découvrirez le modèle Ministral 3 3B, comment l'exécuter localement et comment lui faire effectuer de vrais appels d'outils à l'aide d'Open WebUI, d'abord avec des outils locaux, puis avec des outils MCP distants via Composio.
Ce que vous apprendrez : ✨
⚠️ REMARQUE : ceci n'est pas un article de référence. L'idée est de montrer une configuration pratique pour exécuter un petit modèle local avec de vrais outils, puis de l'étendre avec des serveurs MCP distants.
Ministral 3 3B est le modèle le plus petit et le plus efficace de la famille Ministral 3. Mistral 3 comprend trois petits modèles denses de pointe : 14B, 8B et 3B, ainsi que Mistral Large 3, qui est le modèle le plus performant à ce jour de Mistral. Tous les modèles de cette famille sont open source sous licence Apache 2.0, ce qui signifie que vous pouvez les affiner et les utiliser commercialement gratuitement.
Mais le sujet de notre exposé est le modèle Ministral 3 3B. D'une si petite taille, il est doté d'appels de fonctions, d'une sortie structurée, de capacités de vision et, plus important encore, il s'agit de l'un des premiers modèles multimodaux capables de s'exécuter entièrement localement dans le navigateur avec la prise en charge de WebGPU.
Comme le dit Mist...
[Courte citation de 8% de l'article original]