Utiliser LangChain avec des modèles open source hébergés dans l’UE

LangChain est un framework open source en Python et JavaScript pour construire des applications sur des modèles de langage. Il fournit une interface commune pour les modèles de chat, les prompts, les outils, les retrievers et les parseurs de sortie ; sa fonction create_agent et la bibliothèque LangGraph font tourner des agents à appels d’outils et des workflows avec état.

Tout composant LangChain qui a besoin d’un modèle de chat accepte n’importe quel objet respectant cette interface. La classe ChatOpenAI de langchain-openai dialogue avec tout point d’accès au format OpenAI dès que vous définissez base_url : inference.eu s’insère ainsi dans vos chaînes et agents existants sans autre modification.

Passez base_url (l’URL de base d’inference.eu terminée par /v1), api_key et model à ChatOpenAI. En LangChain.js, l’URL se place sous configuration: { baseURL }. LangChain lit aussi OPENAI_API_BASE et OPENAI_BASE_URL si aucune URL n’est passée, mais des arguments explicites sont plus lisibles quand un projet utilise plusieurs fournisseurs.

Avec une URL de base personnalisée, LangChain n’active pas par défaut les compteurs de jetons en streaming : réglez stream_usage=True. Si votre code choisit les modèles depuis la configuration, vous pouvez aussi créer le modèle avec init_chat_model("openai:<identifiant>", base_url=..., api_key=...).

Pour la génération augmentée par la recherche, la synthèse et l’extraction, gpt-oss-120b est un choix par défaut rapide et performant. Pour les agents construits avec create_agent ou LangGraph qui enchaînent plusieurs outils, qwen3-coder-480b-a35b-instruct, glm-5.3 et kimi-k3 produisent des appels d’outils fiables.

glm-5.3 et kimi-k3 conviennent aussi aux longs contextes sur de gros documents et à la planification complexe. Pour l’extraction, utilisez with_structured_output avec un modèle Pydantic : LangChain valide le résultat. Les modèles étant de simples objets, chaque nœud d’un graphe peut avoir le sien, un modèle rapide pour le routage et un plus puissant pour le raisonnement.

Une erreur 401 signifie que la clé manque ou que LangChain a lu un ancien OPENAI_API_KEY : passez api_key explicitement. Une erreur 404 vient le plus souvent d’un chemin en trop dans base_url, ou d’un identifiant de modèle inconnu chez inference.eu.

ChatOpenAI suit uniquement la spécification officielle d’OpenAI : les champs non standard comme reasoning_content des modèles de raisonnement ne sont pas conservés dans le message. Les outils intégrés ou paramètres propres à l’API Responses d’OpenAI font basculer ChatOpenAI vers cette API ; réglez use_responses_api=False et restez sur les fonctions de Chat Completions.

Avec base_url pointant vers inference.eu, chaque prompt, document récupéré et résultat d’outil envoyé au modèle par vos chaînes est traité dans des centres de données de l’UE et ne sert jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, publions la liste de nos sous-traitants et facturons en euros.

LangChain n’appelle que les services que vous configurez. Embeddings, bases vectorielles et traçage sont distincts : si vous activez le traçage LangSmith, prompts et sorties partent chez LangSmith selon ses propres conditions. Choisissez des options hébergées dans l’UE pour ces composants, ou laissez le traçage désactivé, pour que toute la chaîne reste en Europe.