Utiliser le SDK Anthropic avec des modèles open source hébergés dans l’UE

De nombreuses équipes ont d’abord construit leurs applications sur l’API Anthropic Messages, avec ses blocs de contenu, son champ dédié au prompt système et son format d’appel d’outils. Réécrire ce code pour une autre API prend du temps et comporte des risques. Comme inference.eu parle directement le format Messages, vous portez le même code sur des modèles open-weight sans changer la construction des requêtes ni la lecture des réponses.

Les SDK officiels continuent de gérer les nouvelles tentatives, les délais, les événements de streaming et les erreurs typées. Seuls le point d’accès, la clé et le nom du modèle changent : la migration reste courte et facile à relire.

Le SDK Anthropic ajoute lui-même /v1/messages à l’URL de base. Réglez donc base_url sur l’hôte d’inference.eu sans le /v1 final ; l’exemple le retire avec removesuffix. En TypeScript, l’option s’appelle baseURL.

Passez votre clé dans api_key. Le SDK l’envoie dans l’en-tête x-api-key, accepté par inference.eu. Les deux SDK lisent aussi ANTHROPIC_BASE_URL et ANTHROPIC_API_KEY dans l’environnement si vous ne passez rien, ce qui aide pour les outils que vous ne pouvez pas modifier. Dans votre code, des arguments explicites avec INFERENCE_EU_API_KEY rendent le fournisseur évident.

Indiquez l’identifiant inference.eu dans le champ model. kimi-k3 et glm-5.3 sont de bons choix généralistes pour les applications écrites pour l’API Messages : ils gèrent bien les longs prompts système, les conversations à plusieurs tours et les appels d’outils.

Pour la génération de code ou les agents qui modifient des fichiers, qwen3-coder-480b-a35b-instruct est une option solide. Pour la classification, l’extraction ou les gros volumes, gpt-oss-120b limite la latence. Comme seule la chaîne model change, vous pouvez envoyer la même requête à plusieurs modèles et comparer les résultats sur vos propres données.

Une erreur 404 signifie presque toujours que l’URL de base se termine encore par /v1, si bien que le SDK appelle /v1/v1/messages. Retirez ce suffixe. Une AuthenticationError 401 indique une clé absente ou erronée ; vérifiez que vous ne lisez pas un ancien ANTHROPIC_API_KEY.

« Model not found » signifie que model contient encore un nom de modèle Claude au lieu d’un identifiant inference.eu. max_tokens est obligatoire dans l’API Messages et doit figurer dans chaque requête. Les fonctions propres à Claude, comme certains en-têtes bêta ou outils côté serveur, peuvent ne pas s’appliquer aux modèles open-weight : retirez-les si une requête est refusée.

Avec l’URL de base réglée sur inference.eu, chaque requête envoyée par votre application via le SDK est traitée dans des centres de données de l’UE. Prompts et réponses ne servent jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, publions la liste de nos sous-traitants et facturons en euros.

Le SDK ne communique qu’avec l’URL de base configurée. Vérifiez que chaque client de votre code l’utilise, y compris ceux créés par des bibliothèques qui lisent ANTHROPIC_BASE_URL. Les services de journalisation, de traçage et d’évaluation de votre stack peuvent aussi stocker des prompts : vérifiez où ils conservent leurs données.