inference.eu

Inférence IA hébergée dans l'UE

L'IA européenne pour les développeurs : Claude, Gemini et LLM open source via une API

Envoyez vos prompts à Claude, Gemini et des modèles open-weight hébergés dans des centres de données européens plutôt qu'à un fournisseur américain. L'API reprend le format OpenAI ainsi que le format Messages d'Anthropic, et votre code fonctionne tel quel une fois l'URL de base et la clé modifiées.

Comment ça marche

  • Compatible avec le SDK OpenAI

    Python, JavaScript, LangChain, LlamaIndex, le Vercel AI SDK et tout outil qui parle le format OpenAI. Vous changez l'URL de base et la clé, rien d'autre.

  • Le format Anthropic aussi

    Les clients conçus pour l'API Messages d'Anthropic appellent les mêmes modèles open-weight. Indiquez l'endpoint européen et choisissez un modèle.

  • Changer de modèle en un mot

    Tous les modèles se trouvent derrière le même endpoint. Pour en essayer un autre, il suffit de modifier son nom dans la requête.

  • Requêtes traitées dans l'UE

    Prompts et réponses sont traités dans des centres de données européens. En cas de panne, le trafic bascule vers un autre site en Europe.

  • Jamais utilisé pour l'entraînement

    Ce que vous envoyez sert uniquement à répondre à votre requête. Rien n'entre dans l'entraînement d'un modèle.

  • Texte, code, embeddings et voix

    Génération de texte et de code, embeddings et reranking pour la recherche, transcription audio et modèles d'image, avec une seule clé.

  • Facturé au token, en euros

    Vous payez les tokens consommés, sur une seule facture pour tous les modèles.

Tous les modèles, un seul endpoint européen

Claude, Gemini et des modèles open-weight pour le chat, le code, les embeddings, le reranking, la voix et les images. Changez de modèle en modifiant une chaîne.

Chat

Raisonnement

Quittez OpenAI en changeant une seule ligne

L'API utilise le format de requête d'OpenAI : vos SDK et frameworks fonctionnent tels quels. Changez l'URL de base et la clé, puis comparez les modèles sur vos propres prompts.

from openai import OpenAI

client = OpenAI(
    base_url="https://api.inference.eu/v1",
    api_key="INFERENCE_EU_API_KEY",
)

response = client.chat.completions.create(
    model="mistral-small-4-119b",
    messages=[{"role": "user", "content": "Summarise this contract in three bullet points"}],
)
print(response.choices[0].message.content)

Ce que les équipes en font

  • Des fonctions IA dans un produit SaaS

    Ajoutez chat, résumés ou recherche à votre produit sans faire sortir de l'UE les données de vos clients.

  • Recherche dans les documents internes

    Indexez contrats, tickets et wikis sous forme d'embeddings, puis répondez aux questions grâce à la génération augmentée par récupération (RAG).

  • Quitter un fournisseur américain

    Gardez vos prompts et votre code, pointez-les vers un endpoint européen et comparez la qualité modèle par modèle.

  • Agents et outils de code

    Faites tourner assistants de code et agents sur des modèles open-weight dans l'UE, au format OpenAI ou Anthropic.

Modèles : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Poser une question

Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

  • Réponse sous un jour ouvré
  • Tarif adapté à votre volume
  • DPA prêt à signer