Reachy Mini devient entièrement local

Après avoir construit votre Reachy Mini, vous installerez l'application de conversation et commencerez à lui parler. Jusqu'à présent, vous deviez envoyer votre audio à un serveur. Mais plus maintenant. Aujourd'hui, nous allons vous expliquer comment exécuter l'ensemble de la pile localement.

Cette pile est alimentée parparole-parole, notre pipeline en cascade VAD → STT → LLM → TTS qui expose un outil compatible avec l'API en temps réel/v1/temps réelWebSocket. Une fois que vous avez lancé le backend, pointez le robot vers lui depuis l'interface utilisateur.

Les Cascades sont aujourd'hui l'option la plus flexible dans le paysage open source, et avec les bons éléments, elles sont également les plus rapides. Nous vous recommanderons les composants que nous préférons, mais l’intérêt d’une cascade est que vous pouvez les échanger. De nouveaux modèles tombent chaque semaine.

TL;DR

• Déployez un backend vocal local pour votre Reachy Mini.
• Nous utilisons notreparole-parolebibliothèque, une approche en cascade.
• Recommandé : llama.cpp avec Gemma 4, Silero VAD, Parakeet-TDT STT, Qwen3-TTS.

Démarrage rapide

Ce blog vous guide tout au long des conversations avec Reachy Mini de manière entièrement locale. Pas de cloud, pas de clés API, pas de données sortant de votre machine. Voici une vidéo montrant cela en direct :

Au service local du LLM

Pour servir le LLM, nous utiliserons Hugging Face'slama.cpp. Si vous devez l'installer, le moyen le plus simple estbrasser installer lama.cppouWinget installe lama.cpp, pour plus d'aide, consultez la documentation. Tout d'abord, nous allons exécuter :

lama-server -hf ggml-org/gemma-4-E4B-it-GGUF -np 2 -c 65536 -fa sur --swa-full

Et c'est fait ! La première fois qu’il téléchargera le modèle, les lancements suivants seront rapides.

A quoi servent ces drapeaux ?

• -hf ggml-org/gemma-4-E4B-it-GGUF- extrait le modèle directement du Hub. La première exécution le télécharge, les exécutions suivantes utilisent le cache.
• -np2— deux emplacements parallèles. Permet au serveur de gérer une deuxième requête (par exemple une interruption rapide) sans bloquer la première.
• -c 65536— Fen...
  [Courte citation de 8% de l'article original]