Utilisez le reranker bge-reranker-v2-m3 en Europe via notre API

bge-reranker-v2-m3 a été publié en mars 2024 par la Beijing Academy of Artificial Intelligence (BAAI) sous licence Apache 2.0. Il repose sur le modèle d'embedding bge-m3 et compte environ 568 millions de paramètres. BAAI le décrit comme un reranker léger, doté de solides capacités multilingues, simple à déployer et rapide en inférence.

Contrairement à un modèle d'embedding, qui transforme requête et document en vecteurs séparés, un reranker est un cross-encoder : il lit la requête et le passage comme une seule entrée et produit un score unique. C'est plus lent par paire, mais bien plus précis, d'où son usage en seconde étape sur une courte liste de candidats.

Le reranker affine la récupération dans les systèmes de recherche et de RAG. Une fois que bge-m3 ou un autre modèle d'embedding a renvoyé les 50 à 100 meilleurs candidats, bge-reranker-v2-m3 les reclasse pour que le modèle de chat lise d'abord les passages qui répondent vraiment à la question. Il fonctionne dans de nombreuses langues, y compris en contexte mixte, et sa petite taille garde cette étape peu coûteuse.

Il ne peut pas parcourir seul tout un corpus : chaque paire requête-passage demande une passe, il ne convient donc qu'aux listes courtes. Les scores sont relatifs, pas des probabilités calibrées. Les rerankers plus grands de BAAI basés sur Gemma ou MiniCPM classent parfois mieux les cas difficiles, pour un calcul plus lourd.

Indiquez l'URL de base de l'API inference.eu, votre clé inference.eu et le modèle bge-reranker-v2-m3. Envoyez une requête au point d'accès de reranking, /v1/rerank, avec une query et une liste de documents. La réponse donne un score de pertinence pour chaque document ; triez-les avant de transmettre les meilleurs à un modèle de chat.

Le score brut peut être n'importe quel nombre réel. BAAI indique qu'une fonction sigmoïde le ramène entre 0 et 1, ce qui facilite la fixation d'un seuil pour écarter les correspondances faibles. Des frameworks comme LangChain et LlamaIndex appellent le reranker comme étape de post-traitement après la récupération vectorielle.

Un reranker voit la question de l'utilisateur et le texte intégral de chaque passage candidat, souvent les parties les plus sensibles de votre base de connaissances. Sur inference.eu, bge-reranker-v2-m3 tourne sur une infrastructure située dans l'Union européenne : requêtes et documents sont traités dans des centres de données de l'UE, ne partent pas en Chine et ne servent jamais à entraîner un modèle.

Chaque client reçoit un accord de traitement des données selon l'article 28 du RGPD et la liste de nos sous-traitants : toute la chaîne de récupération, de l'embedding au reranking jusqu'à la réponse, se documente avec un seul prestataire. La facturation se fait en euros. La licence Apache 2.0 autorise l'usage commercial sans limite d'utilisateurs.