Comment utiliser des serveurs MCP avec des LLM locaux

Ce guide étape par étape vous montre comment connecter Model Context Protocol (MCP) des serveurs à des LLM locaux comme Qwen ou Gemma, afin que tout modèle que vous exécutez puisse appeler des outils et services externes via MCP. Connecter MCP à un modèle local lui permet d’utiliser en toute sécurité vos fichiers, applications, bases de données et outils locaux au lieu de discuter uniquement de mémoire, afin de créer un assistant IA plus utile, privé et interchangeable, capable d’agir sur votre environnement réel.

Nous utiliserons les dépôts open source Unsloth et llama.cpp car ce sont des frameworks populaires pour l’inférence et le déploiement de modèles locaux. MCP fonctionne avec les modèles GGUF locaux et les modèles des fournisseurs. Nous montrerons aussi comment plusieurs serveurs MCP peuvent être utilisés.

Les outils MCP fonctionnent parallèlement à d’autres capacités du modèle telles que l’exécution de code et recherche web, ainsi un seul modèle peut rechercher sur le web, exécuter du code et appeler vos services connectés dans le même fil de conversation.

Cas d’utilisation

Une fois qu’un serveur MCP est connecté, vous pouvez demander à votre modèle local d’effectuer de nombreuses tâches automatisées. Quelques exemples :

• Rechercher dans les docs : « Trouve la documentation pertinente et résume les étapes de configuration. » - Context7 peut être utilisé.

• Analyser une base de code : « Fais la cartographie de ce dépôt et explique où se déroulent l’authentification, la facturation et l’accès aux données. » - Le MCP officiel GitHub et GitMCP peuvent être utilisés pour analyser les dépôts.

• Rechercher sur le web avec des embeddings - Le serveur MCP d’Exa peut être utilisé pour des recherches sémantiques sur le web avec prise en charge d’embeddings contextuels.

• Déboguer les interfaces utilisateur des sites web - Les serveurs MCP Playwright et Chrome DevTools peuvent être utilisés pour piloter des sites web afin de trouver des correctifs aux problèmes.

Démarrage rapide

Nous utiliserons deux méthodes pour connecter votre modèle local sur votre appareil aux serveurs MCP. Les deux utilisent des packages open source : Unsloth et llama.cpp pour exécuter, servir et déployer votre modèle.

Guide MCP UnslothGuide MCP Llama.cpp

🦥 Guide Unsloth

Dans cet exemple, nous utiliserons Unsloth pour connecter n’importe quel modèle local comme Qwen3.6 ou Gemma 4 avec les serveurs MCP : Vercel, Context7, Exa et Hugging Face. Nous demanderons ensuite à un modèle ce qu’il peut faire avec cela. Les mêmes étapes fonctionnent pour n’importe quel serveur MCP.

1

Configurer Unsloth

La manière la plus simple de commencer est d’installer l’application Unsloth Desktop . Elle prend en charge MacOS, Linux, Windows, NVIDIA, AMD, Intel et les configurations CPU.

Télécharger Unsloth

• Télécharger pour macOS

• Télécharger pour Windows

• Télécharger pour Linux

Ou, si vous préférez l’installation manuelle :

MacOS, Linux, WSL :

Copier

curl -fsSL https://unsloth.ai/install.sh | sh

Windows PowerShell :

Copier

irm https://unsloth.ai/install.ps1 | iex

Voir ici pour des instructions détaillées.

2

Activer MCP

Cliquez sur « MCP » dans la barre d’outils du chat.

Unsloth Studio prend par défaut en charge MCP pour Context7, Exa et Hugging Face. Activer Exa recherche web désactivera l’outil de recherche par défaut que nous avons.

3

Ajout de serveurs MCP personnalisés

Pour ajouter le serveur MCP Vercel, cliquez sur « Ajouter un MCP personnalisé », et une fenêtre contextuelle s’affichera :

Renseignez les détails du serveur :

1. Nom d’affichage : une étiquette conviviale, par exemple Vercel.

2. URL : le point de terminaison de base du serveur, par exemple https://mcp.vercel.com.

3. Choisissez ci-dessous une méthode d’authentification.

Connexion OAuth

En-tête personnalisé

Pour les serveurs qui nécessitent une authentification via le navigateur (GitHub, Linear, Vercel, etc.), activez Utiliser la connexion OAuth. Une fenêtre de navigateur s’ouvrira lors de la première connexion afin que vous puissiez autoriser Unsloth.

Pour les serveurs qui s’authentifient avec un jeton, laissez OAuth désactivé et cliquez sur Ajouter un en-tête sous En-têtes personnalisés. Ajoutez un Authorization en-tête avec votre jeton :

4

Tester et ajouter

Cliquez sur Tester la connexion pour confirmer qu’Unsloth peut atteindre le serveur. Une fois que cela réussit, cliquez sur Ajouter le serveur pour l’enregistrer.

Si Tester la connexion l’opération échoue, vérifiez que l’URL est bien le point de terminaison de base du serveur (et non une page de documentation) et que votre méthode d’authentification est correcte. Voir le dépannage ci-dessous.

5

Vérifier les outils chargés

Le serveur apparaît maintenant dans la liste des serveurs MCP. Unsloth récupère automatiquement ses outils et affiche une confirmation, par exemple « Vercel » actualisé (18 outils).

Chaque serveur dispose de contrôles pour basculer son activation/désactivation, actualiser ses outils, modifier le, ou supprimer le. Assurez-vous que le sélecteur du serveur et le Utiliser les serveurs MCP sélecteur principal sont activés, puis fermez la boîte de dialogue.

Il sera mis en évidence s’il est activé. Vous pouvez aussi les désactiver en cliquant simplement dessus à nouveau.

6

Utilisez-le dans le chat

Choisissez n’importe quel modèle dans la Select model liste déroulante et commencez à discuter. Le modèle peut désormais appeler de lui-même les outils du serveur lorsque votre demande l’exige.

Ci-dessus, un modèle local gemma-4-E2B-it-GGUF a été invité « Pouvez-vous utiliser le serveur Vercel MCP ? » et a indiqué les actions qu’il peut effectuer : gestion des projets, analyse des journaux, सूची des équipes, génération de liens d’accès, vérification des domaines et recherche dans la documentation de Vercel.

Utilisation de plusieurs serveurs MCP

Que diriez-vous d’appeler plusieurs serveurs MCP, comme 3 ? Nous utiliserons les serveurs MCP fournis par défaut dans Unsloth Studio : Exa, Context7 et Hugging Face, et activerons les 3.

Si vous demandez « Unsloth peut-il prendre en charge le fine-tuning de Qwen », Exa fournira de très bons détails à ce sujet :

Ensuite, en suivi : « Recherche dans la documentation Unsloth comment faire cela », et Context7 est utilisé pour les docs :

Ensuite, tapez « Recherche Hugging Face pour les modèles unsloth/Qwen », et le serveur MCP de Hugging Face sera appelé :

Autre exemple de cas d’utilisation spécifique

Une fois qu’un serveur est connecté, demandez au modèle d’effectuer un vrai travail en langage naturel. Quelques exemples avec le serveur Vercel :

• Déboguer une compilation échouée: « Récupère les journaux de build de mon dernier déploiement et dis-moi pourquoi il a échoué. »

• Vérifier l’état du déploiement: « Liste mes déploiements les plus récents et leur état. »

• Rechercher dans la documentation: « Recherche dans la documentation Vercel comment configurer un domaine personnalisé. »

• Recherche de domaine: « myproject.dev est-il disponible, et combien cela coûterait-il ? »

🦙 Guide Llama.cpp

Dépannage

Si un serveur ne parvient pas à se connecter ou que ses outils n’apparaissent pas, vérifiez que l’URL est bien le point de terminaison de base du serveur (par ex. https://mcp.vercel.com), et non une page de documentation ou un tableau de bord. Pour les serveurs OAuth, terminez la connexion dans le navigateur lorsqu’elle s’ouvre ; pour les serveurs basés sur un jeton, vérifiez le Authorization en-tête et que le jeton est valide.

Cliquez sur Actualiser si les outils n’apparaissent pas après la connexion, et assurez-vous que le sélecteur individuel du serveur et le Utiliser les serveurs MCP sélecteur principal sont activés.

Notes de sécurité

Ne connectez que des serveurs MCP en lesquels vous avez confiance. Examinez les autorisations demandées et gardez la confirmation humaine activée pour les actions qui lisent des données privées, modifient des déploiements, achètent des domaines ou modifient des projets. Soyez particulièrement prudent lorsque vous combinez des serveurs MCP avec la recherche web ou d’autres outils, car du contenu injecté dans l’invite peut tenter de déclencher des appels d’outils indésirables.

Serveurs MCP populaires

Voici une liste de quelques serveurs MCP populaires et utiles auxquels vous pouvez vous connecter :