Utiliser Continue avec des modèles open source hébergés dans l’UE

Continue est une extension open source pour VS Code et les IDE JetBrains, complétée par un agent en ligne de commande. Elle propose un chat, l’édition en ligne, un mode agent qui utilise des outils et l’autocomplétion. Continue n’embarque pas de modèle : vous choisissez quel fournisseur répond à chaque type de requête.

Ce fonctionnement convient aux équipes qui veulent garder leur éditeur et décider où s’exécutent les modèles. Comme Continue prend en charge toute API compatible OpenAI, inference.eu s’utilise avec le fournisseur intégré openai et une apiBase personnalisée.

Les modèles sont déclarés dans config.yaml, en local dans ~/.continue/config.yaml ou via une configuration partagée. Chaque entrée indique un provider, l’identifiant model, une apiBase et une apiKey. Avec provider: openai et apiBase pointant vers inference.eu, Continue appelle notre point d’accès Chat Completions.

La syntaxe ${{ secrets.INFERENCE_EU_API_KEY }} lit la clé dans ~/.continue/.env, hors du fichier de configuration. Les rôles déterminent l’usage de chaque modèle : chat pour le chat et l’agent, edit pour les modifications en ligne, apply pour appliquer des blocs de code aux fichiers. Chaque rôle peut aller à un modèle différent.

Confiez les rôles chat, edit et apply à qwen3-coder-480b-a35b-instruct, entraîné pour le code et à l’aise avec les appels d’outils du mode agent. Ajoutez glm-5.3 ou kimi-k3 comme modèles de chat supplémentaires pour les questions d’architecture, les revues et les longs documents, et passez de l’un à l’autre dans le sélecteur.

gpt-oss-120b convient aux réponses rapides à des questions courtes. L’autocomplétion est un autre métier : elle exige un petit modèle rapide entraîné au remplissage au milieu du code. Laissez le rôle autocomplete non attribué tant que vous n’avez pas choisi un tel modèle, plutôt que de le confier à un grand modèle de chat.

Une erreur 401 signifie en général que le secret n’a pas été résolu. Vérifiez que ~/.continue/.env contient INFERENCE_EU_API_KEY sans guillemets ni espaces, puis rechargez la fenêtre. « Model not found » indique que la valeur de model diffère de l’identifiant inference.eu ; copiez-le exactement.

Si Continue tente l’API Responses et échoue, ajoutez useResponsesApi: false à l’entrée du modèle pour qu’il utilise Chat Completions. Si le mode agent répond en texte au lieu d’appeler des outils, choisissez un modèle fiable sur ce point, comme Qwen3 Coder ou GLM-5.3. apiBase doit se terminer par /v1, sans chemin supplémentaire.

Avec une configuration locale, Continue envoie les requêtes directement depuis votre IDE vers l’apiBase indiquée. Avec inference.eu, le code, les fichiers et le contexte transmis sont traités dans des centres de données de l’UE et ne servent jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, communiquons la liste de nos sous-traitants et facturons en euros.

Continue peut collecter une télémétrie d’usage anonyme, désactivable dans les réglages de l’extension. Si vous utilisez une configuration stockée sur le hub de Continue, vérifiez la gestion des secrets. Pour les exigences les plus strictes, gardez config.yaml et .env en local et diffusez-les avec vos propres outils.