---
title: "LiteLLM avec des modèles hébergés en Europe"
description: "Ajoutez inference.eu au proxy ou au SDK Python LiteLLM avec le préfixe openai/ et dirigez les requêtes vers des modèles open-weight traités dans l’UE."
canonical: "https://inference.eu/fr/integrations/litellm/"
language: "fr"
---

Passerelles · LiteLLM

# Utiliser LiteLLM avec des modèles open source hébergés dans l’UE

LiteLLM est une passerelle et un SDK Python open source qui regroupent de nombreux fournisseurs de modèles derrière une API de style OpenAI, avec clés virtuelles, budgets et journalisation. Ajoutez inference.eu à sa liste de modèles, et chaque application derrière la passerelle peut utiliser des modèles open-weight traités dans des centres de données européens.

[Contacter l'équipe](https://inference.eu/fr/contact/)[Configuration](#setup)

1.  01Format d'API: OpenAI
2.  02Centres de données dans l'UE
3.  03Couvert par un seul DPA

## Configuré en quelques minutes

1.  1

    Créez une clé API dans votre compte inference.eu et définissez `INFERENCE_EU_API_KEY` dans l’environnement du proxy LiteLLM.

2.  2

    Ajoutez une entrée `model_list` par modèle, avec `model` réglé sur `openai/` suivi de l’identifiant inference.eu.

3.  3

    Réglez `api_base` sur l’URL de base d’inference.eu et `api_key` sur `os.environ/INFERENCE_EU_API_KEY`.

4.  4

    Démarrez le proxy avec `litellm --config config.yaml`.

5.  5

    Appelez le proxy avec le `model_name` public et une clé LiteLLM pour vérifier que la route fonctionne.

config.yaml

```
model_list:
  - model_name: qwen3-coder
    litellm_params:
      model: openai/qwen3-coder-480b-a35b-instruct
      api_base: https://api.inference.eu/v1
      api_key: os.environ/INFERENCE_EU_API_KEY
  - model_name: glm-5.3
    litellm_params:
      model: openai/glm-5.3
      api_base: https://api.inference.eu/v1
      api_key: os.environ/INFERENCE_EU_API_KEY
  - model_name: gpt-oss-120b
    litellm_params:
      model: openai/gpt-oss-120b
      api_base: https://api.inference.eu/v1
      api_key: os.environ/INFERENCE_EU_API_KEY

# Start with: litellm --config config.yaml
```

## Qu’est-ce que LiteLLM

LiteLLM se compose de deux parties. Le SDK Python appelle plus d’une centaine de fournisseurs via une seule fonction `completion()`. Le serveur proxy, souvent appelé passerelle IA LiteLLM, expose une API compatible OpenAI à vos équipes et ajoute devant les fournisseurs configurés des clés virtuelles, le suivi des dépenses, des limites de débit, des modèles de secours, des garde-fous et de la journalisation.

Beaucoup d’entreprises exploitent ce proxy comme passerelle centrale, pour que agents de code, interfaces de chat et applications internes partagent un même point d’accès. Ajouter inference.eu comme fournisseur dans cette passerelle met les modèles open-weight européens à disposition de tous, sans modifier chaque client.

## Comment fonctionne la configuration

Dans le `config.yaml` du proxy, chaque entrée de `model_list` associe un `model_name` public à une route. Le préfixe `openai/` dans `litellm_params.model` indique à LiteLLM d’appeler un point d’accès Chat Completions compatible OpenAI ; la suite est l’identifiant inference.eu. `api_base` est l’URL de base terminée par `/v1`, et `os.environ/INFERENCE_EU_API_KEY` lit la clé dans l’environnement.

Dans le SDK Python, la même route s’écrit `litellm.completion(model="openai/gpt-oss-120b", api_base=..., api_key=...)`. Les clients du proxy ne voient que `model_name` : vous pouvez donc changer le modèle inference.eu sous-jacent sans toucher à leur configuration.

## Quels modèles choisir

Exposez les modèles dont vos équipes ont besoin sous des noms clairs. `qwen3-coder-480b-a35b-instruct` convient aux agents de code et aux intégrations d’IDE qui passent par la passerelle. `glm-5.3` et `kimi-k3` sont de solides modèles généralistes pour les agents et les longs documents, et `gpt-oss-120b` un choix rapide pour le chat, les résumés et les outils internes à fort volume.

LiteLLM peut regrouper plusieurs entrées sous un même `model_name` pour répartir la charge, ou définir des modèles de secours entre noms. Gardez ces secours au sein d’inference.eu, par exemple de `kimi-k3` vers `glm-5.3`, pour qu’une nouvelle tentative n’envoie jamais de données à un fournisseur hors de l’UE.

## Dépannage

Une erreur 404 Not Found sur la route indique le plus souvent une `api_base` sans le suffixe `/v1` ou avec des segments en trop ; LiteLLM ajoute lui-même `/chat/completions`. Une erreur 401 signifie que le processus du proxy ne dispose pas de `INFERENCE_EU_API_KEY`, ce qui arrive souvent sous Docker quand la variable n’est pas transmise.

« LLM Provider NOT provided » signifie que le préfixe `openai/` manque dans `litellm_params.model`. Si les appels d’outils ou l’usage en streaming semblent incorrects, mettez LiteLLM à jour, car les correctifs de compatibilité sont fréquents. Vérifiez que l’identifiant après le préfixe correspond exactement à inference.eu, et testez la route via le point d’accès `/health` du proxy.

## Garder les données dans l’UE

Les requêtes dirigées vers inference.eu sont traitées dans des centres de données de l’UE et ne servent jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, publions la liste de nos sous-traitants et facturons en euros.

La passerelle voit elle-même chaque prompt : son emplacement compte donc. Hébergez le proxy dans l’UE et passez en revue ses callbacks de journalisation, car les intégrations qui envoient traces ou prompts à des services d’observabilité les conservent selon leurs propres conditions. Retirez de la liste les fournisseurs hors UE, ou limitez-les par des droits d’équipe, si votre politique l’exige.

## LiteLLM

Catégorie

Passerelles

Éditeur

BerriAI

Format d'API

OpenAI

Traitement

Centres de données dans l'UE

Site web

[www.litellm.ai](https://www.litellm.ai/)

Documentation

[docs.litellm.ai](https://docs.litellm.ai/docs/providers/openai_compatible)

## LiteLLM : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Ajoutez une entrée \`model\_list\` avec un \`model\_name\`, puis sous \`litellm\_params\` réglez \`model\` sur \`openai/\` suivi de l’identifiant, \`api\_base\` sur l’URL de base et \`api\_key\` sur la clé ou \`os.environ/VARIABLE\`. Redémarrez ensuite le proxy.

Le préfixe indique à LiteLLM quel adaptateur de fournisseur utiliser. \`openai/\` sélectionne la route Chat Completions compatible OpenAI. LiteLLM le retire avant l’envoi : inference.eu reçoit l’identifiant seul, par exemple \`glm-5.3\`.

Le plus souvent, \`api\_base\` n’a pas de \`/v1\` ou contient \`/chat/completions\`. Réglez-la sur l’URL de base d’inference.eu terminée par \`/v1\` ; LiteLLM ajoute lui-même le chemin. Vérifiez ensuite que l’identifiant après \`openai/\` est correct.

Oui. Le proxy LiteLLM accepte les requêtes au format Anthropic sur sa route \`/v1/messages\` et les transmet au modèle configuré. Vous pouvez aussi pointer Claude Code directement vers inference.eu, qui accepte nativement le format Anthropic, et vous passer de la passerelle.

Une sélection courante associe Qwen3 Coder 480B pour les outils de code, GLM-5.3 ou Kimi K3 pour les agents et les longs documents, et gpt-oss-120b pour le chat rapide et les outils internes. Donnez à chacun un \`model\_name\` clair que vos équipes reconnaîtront.

Oui. Définissez les secours dans les réglages du routeur, par exemple de \`kimi-k3\` vers \`glm-5.3\`. En les gardant au sein d’inference.eu, une nouvelle tentative n’envoie jamais de données à un fournisseur situé hors de l’UE.

Écrivez \`api\_key: os.environ/INFERENCE\_EU\_API\_KEY\` et définissez la variable dans l’environnement du proxy, par exemple via un secret Docker ou Kubernetes. LiteLLM résout la valeur au démarrage et ne la réécrit jamais dans le fichier.

Oui. Appelez \`litellm.completion(model="openai/<identifiant>", api\_base=..., api\_key=..., messages=\[...\])\`. C’est pratique dans les scripts et notebooks, tandis que le proxy convient aux équipes qui ont besoin de clés partagées, de budgets et de journalisation.

LiteLLM suit la consommation de jetons par clé, équipe et modèle. Les coûts qu’il affiche dépendent des prix que vous renseignez dans les informations de modèle ; la facturation elle-même se fait en euros dans votre compte inference.eu, qui fait foi.

Le proxy voit chaque prompt et chaque réponse qu’il transmet. Hébergez-le dans l’UE et vérifiez les callbacks de journalisation et intégrations d’observabilité, qui peuvent stocker des prompts ailleurs. Le traitement des modèles chez inference.eu a lieu dans des centres de données de l’UE.

[Poser une question](https://inference.eu/fr/contact/)

## Pages liées

[Toutes les intégrations](https://inference.eu/fr/integrations/)

-   [OpenAI SDK (Python and JavaScript)Pointez le SDK OpenAI officiel pour Python ou JavaScript vers inference.eu avec base\_url et une clé API, et appelez des modèles open-weight traités dans l’UE.SDK](https://inference.eu/fr/integrations/openai-sdk/)
-   [Open WebUIConnectez Open WebUI à inference.eu comme connexion compatible OpenAI et offrez à votre équipe un chat auto-hébergé sur des modèles open-weight de l’UE.Apps de chat](https://inference.eu/fr/integrations/open-webui/)
-   [LibreChatAjoutez inference.eu comme custom endpoint dans librechat.yaml et offrez un chat auto-hébergé avec agents sur des modèles open-weight traités dans l’UE.Apps de chat](https://inference.eu/fr/integrations/librechat/)
-   [Claude CodeConfigurez Claude Code avec ANTHROPIC\_BASE\_URL pour utiliser des modèles open-weight traités dans des centres de données de l’UE, sans compte Anthropic.Agents de code](https://inference.eu/fr/integrations/claude-code/)

## Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

-   Réponse sous un jour ouvré
-   Tarif adapté à votre volume
-   DPA prêt à signer