Utiliser Kilo Code avec des modèles open source hébergés dans l’UE

Kilo Code est un agent de code open source, disponible en extension VS Code, en plugin JetBrains et en outil en ligne de commande. Il propose des modes pour différents types de travail, comme l’architecture, le code, le débogage ou les questions, et modifie des fichiers ou lance des commandes avec votre accord.

Kilo prend en charge une longue liste de fournisseurs intégrés et permet d’ajouter les vôtres. Tout point d’accès qui implémente l’API Chat Completions d’OpenAI peut être déclaré comme fournisseur personnalisé : c’est ainsi que vous connectez inference.eu et gardez le travail de vos agents sur une infrastructure européenne.

La boîte de dialogue demande un identifiant de fournisseur, un nom d’affichage, l’API du fournisseur et une URL de base. Choisissez OpenAI Compatible et saisissez l’URL de base d’inference.eu se terminant par /v1. Lorsque l’URL et la clé sont valides, Kilo interroge /v1/models et affiche une liste de modèles consultable.

Pour un réglage plus fin, modifiez kilo.jsonc dans ~/.config/kilo/ ou dans votre projet. Le bloc provider suit l’exemple : un adaptateur npm, options.baseURL, options.apiKey avec la syntaxe {env:...} et une liste models. La clé model définit le modèle par défaut sous la forme inference-eu/<id du modèle>. Chaque modèle accepte tool_call, reasoning et limit.

Pour le mode Code et les tâches agentiques, qwen3-coder-480b-a35b-instruct est un bon choix par défaut : entraîné pour le code et l’usage d’outils, il garde des modifications ciblées. Pour les modes Architect et Ask, où l’agent lit et réfléchit davantage qu’il ne modifie, glm-5.3 et kimi-k3 donnent des réponses approfondies.

gpt-oss-120b répond vite et convient aux sessions de débogage faites de courtes boucles d’essai et de vérification. Indiquez "tool_call": true pour chaque modèle dans kilo.jsonc afin que Kilo lui propose des outils. Comme chaque mode peut avoir son modèle, testez-les sur le travail qu’ils feront le plus souvent.

Une erreur 401 signifie que la clé n’est pas parvenue à Kilo. Si vous utilisez {env:INFERENCE_EU_API_KEY}, lancez VS Code ou la CLI depuis un shell où la variable est définie. Si la liste des modèles reste vide après la saisie de l’URL de base, vérifiez qu’elle se termine par /v1 sans chemin supplémentaire.

« Model not found » indique que la clé du modèle diffère de l’identifiant inference.eu. Si l’agent décrit les modifications sans les appliquer, le modèle ne renvoie pas d’appels d’outils : ajoutez "tool_call": true et choisissez un modèle entraîné à cet usage. Kilo accepte aussi des URL de point d’accès complètes, mais la base /v1 reste le choix le plus simple.

Avec un fournisseur personnalisé, Kilo envoie les requêtes depuis votre éditeur ou votre terminal vers l’URL de base saisie. Avec inference.eu, prompts, contenus de fichiers et sorties de commandes sont traités dans des centres de données de l’UE et ne servent jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, communiquons la liste de nos sous-traitants et facturons en euros.

Kilo propose aussi sa propre passerelle et sa propre connexion. Si tout le trafic de modèles doit rester chez inference.eu, faites du fournisseur personnalisé le seul configuré, définissez son modèle par défaut pour chaque mode et vérifiez le réglage de télémétrie de Kilo.