inference.eu

Embeddings · BAAI (Beijing Academy of Artificial Intelligence)

Utilisez les embeddings bge-m3 en Europe via une API compatible OpenAI

bge-m3 est l'un des modèles d'embedding ouverts les plus utilisés pour la recherche multilingue et la génération augmentée par récupération (RAG). Il est léger, prend en charge plus de 100 langues et lit des entrées jusqu'à 8192 tokens. Sur inference.eu, vous l'appelez au format embeddings d'OpenAI, avec un traitement dans l'UE et sans entraînement sur vos données.

  1. 01568M
  2. 02Centres de données dans l'UE
  3. 03MIT

Ce qu'est bge-m3

bge-m3 a été publié en janvier 2024 par la Beijing Academy of Artificial Intelligence (BAAI) sous licence MIT. M3 signifie multi-fonctionnalité, multilinguisme et multi-granularité. Il repose sur XLM-RoBERTa, avec 24 couches, environ 568 millions de paramètres et des vecteurs denses de 1024 dimensions.

En une seule passe, il peut produire trois types de sortie : des embeddings denses, des poids lexicaux creux proches de BM25 et des représentations multi-vecteurs de type ColBERT. Il prend en charge plus de 100 langues et traite des entrées allant de la phrase courte au long document de 8192 tokens. C'est le modèle de base du reranker bge-reranker-v2-m3.

Points forts et limites

bge-m3 est un choix par défaut solide et économique pour la récupération multilingue. Sa petite taille rend abordable la vectorisation de millions de documents, ses vecteurs de 1024 dimensions gardent les index compacts, et il fonctionne bien entre langues européennes, par exemple quand une requête en français doit trouver un document en anglais. Bases vectorielles et frameworks RAG le prennent largement en charge.

Ses limites tiennent à son âge et à sa taille. Des modèles plus récents et bien plus grands comme Qwen3 Embedding 8B trouvent en général mieux sur les requêtes difficiles et lisent des textes plus longs. bge-m3 a une taille de vecteur fixe et n'accepte pas d'instructions. Pour le meilleur classement, associez-le à un reranker comme bge-reranker-v2-m3.

Appeler bge-m3 via l'API

inference.eu utilise le format de requête OpenAI : tout SDK OpenAI, LangChain, LlamaIndex ou connecteur de base vectorielle qui appelle /v1/embeddings fonctionne sans changement. Indiquez l'URL de base de l'API inference.eu, votre clé inference.eu et le modèle bge-m3.

Passez une chaîne ou une liste de chaînes dans input et vous recevez pour chacune le vecteur dense de 1024 dimensions. Contrairement à d'autres modèles d'embedding, bge-m3 ne demande ni préfixe ni instruction : requêtes et documents se vectorisent de la même façon. Regroupez les documents dans une même requête lors de l'indexation, et gardez le même nom de modèle pour les requêtes.

Hébergement en Europe et données

Indexer une base de connaissances revient à envoyer le texte intégral de vos documents au modèle d'embedding. Sur inference.eu, bge-m3 tourne sur une infrastructure située dans l'Union européenne : contrats, tickets, pages de wiki et données clients sont traités dans des centres de données de l'UE, ne partent pas en Chine et ne servent jamais à entraîner un modèle.

Chaque client reçoit un accord de traitement des données selon l'article 28 du RGPD et la liste de nos sous-traitants, ce qui aide à documenter votre chaîne de recherche ou de RAG dans le registre des traitements. La facturation se fait en euros, sur la même facture que les modèles de chat. La licence MIT autorise l'usage commercial avec peu de conditions.

bge-m3 · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

result = client.embeddings.create(
    model="bge-m3",
    input=["Where is my data processed?"],
)
print(len(result.data[0].embedding))

Ce que les équipes en font

  • 1

    RAG multilingue

    Indexer des documents en plusieurs langues européennes et retrouver les bons passages pour un modèle de chat, quelle que soit la langue de l'utilisateur.

  • 2

    Recherche sémantique à grande échelle

    Vectoriser des millions de documents à faible coût de calcul et garder un index compact grâce aux vecteurs de 1024 dimensions.

  • 3

    Dédoublonnage et clustering

    Repérer les quasi-doublons, regrouper les tickets similaires ou classer les retours clients par thème, toutes langues confondues.

BGE-M3 : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Poser une question

Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

  • Réponse sous un jour ouvré
  • Tarif adapté à votre volume
  • DPA prêt à signer