---
title: "bge-reranker-v2-m3 DSGVO-konform in der EU nutzen"
description: "bge-reranker-v2-m3 auf inference.eu: schlanker mehrsprachiger Reranker, der Such- und RAG-Ergebnisse nach Relevanz sortiert, verarbeitet in der EU."
canonical: "https://inference.eu/de/modelle/bge-reranker-v2-m3/"
language: "de"
---

Reranking · BAAI (Beijing Academy of Artificial Intelligence)

# Den Reranker bge-reranker-v2-m3 in der EU über unsere API nutzen

bge-reranker-v2-m3 ist ein schlanker mehrsprachiger Reranker. Er liest eine Anfrage und einen Kandidatentext gemeinsam und gibt einen Relevanzwert zurück, damit nach einer schnellen Vektorsuche die besten Treffer oben stehen. Auf inference.eu rufen Sie ihn über unsere API auf, Anfragen und Dokumente werden in Rechenzentren in der EU verarbeitet und nie zum Training genutzt.

[Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Beispielanfrage](#example)

1.  01568M
2.  02Rechenzentren in der EU
3.  03Apache 2.0

## Was bge-reranker-v2-m3 ist

bge-reranker-v2-m3 wurde im März 2024 von der Beijing Academy of Artificial Intelligence (BAAI) unter der Apache-2.0-Lizenz veröffentlicht. Er basiert auf dem Embedding-Modell bge-m3 und hat rund 568 Millionen Parameter. BAAI beschreibt ihn als schlanken Reranker mit starken mehrsprachigen Fähigkeiten, einfach zu betreiben und schnell in der Inferenz.

Anders als ein Embedding-Modell, das Anfrage und Dokument getrennt in Vektoren umwandelt, ist ein Reranker ein Cross-Encoder: Er liest Anfrage und Text als eine Eingabe und gibt einen einzigen Wert aus. Das ist pro Paar langsamer, aber deutlich genauer. Deshalb setzt man Reranker als zweiten Schritt auf eine kurze Kandidatenliste an.

## Stärken und Grenzen

Der Reranker schärft das Retrieval in Such- und RAG-Systemen. Nachdem bge-m3 oder ein anderes Embedding-Modell die besten 50 bis 100 Kandidaten geliefert hat, sortiert bge-reranker-v2-m3 sie neu, sodass das Chat-Modell zuerst die Abschnitte sieht, die die Frage wirklich beantworten. Er funktioniert über viele Sprachen hinweg, auch bei gemischtsprachigen Anfragen, und hält den Zusatzschritt dank geringer Größe günstig.

Einen ganzen Bestand kann er nicht selbst durchsuchen: Jedes Paar aus Anfrage und Text braucht einen eigenen Durchlauf, er passt also nur zu kurzen Kandidatenlisten. Die Werte sind relativ, keine kalibrierten Wahrscheinlichkeiten. Größere BAAI-Reranker auf Basis von Gemma oder MiniCPM sortieren schwierige Fälle teils besser, bei höherem Rechenaufwand.

## bge-reranker-v2-m3 über die API aufrufen

Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell `bge-reranker-v2-m3` ein. Senden Sie eine Anfrage an den Rerank-Endpunkt `/v1/rerank` mit einer `query` und einer Liste von `documents`. Die Antwort enthält für jedes Dokument einen Relevanzwert, nach dem Sie sortieren, bevor die besten an ein Chat-Modell gehen.

Der Rohwert kann jede reelle Zahl sein. Laut BAAI bildet eine Sigmoidfunktion ihn auf einen Wert zwischen 0 und 1 ab, was das Festlegen einer Schwelle für schwache Treffer erleichtert. Frameworks wie LangChain und LlamaIndex binden den Reranker als Nachbearbeitungsschritt nach dem Vektor-Retrieval ein.

## Datenhaltung in der EU

Ein Reranker sieht die Frage des Nutzers und den vollständigen Text aller Kandidaten, oft die sensibelsten Teile Ihrer Wissensbasis. Auf inference.eu läuft bge-reranker-v2-m3 auf Infrastruktur in der Europäischen Union. Anfragen und Dokumente werden in Rechenzentren in der EU verarbeitet, nicht nach China gesendet und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. So lässt sich die ganze Retrieval-Pipeline, vom Embedding über das Reranking bis zur Antwort, mit einem Anbieter dokumentieren. Abgerechnet wird in Euro. Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung ohne Nutzergrenzen.

## BGE Reranker v2 M3

Anbieter

BAAI (Beijing Academy of Artificial Intelligence)

Herkunft

China

Typ

Reranking

Parameter

568M

Lizenz

[Apache 2.0](https://www.apache.org/licenses/LICENSE-2.0)

Veröffentlicht

März 2024

Modell-ID

bge-reranker-v2-m3

Verarbeitung

Rechenzentren in der EU

Training mit Ihren Daten

Nie

Quelle

[huggingface.co](https://huggingface.co/BAAI/bge-reranker-v2-m3)

bge-reranker-v2-m3 · Python

```
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="bge-reranker-v2-m3",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)
```

## Wofür Teams es einsetzen

-   1

    ### Bessere RAG-Antworten

    Gefundene Abschnitte neu sortieren, damit das Chat-Modell die relevantesten Belege zuerst liest und genauer antwortet.

-   2

    ### Ranking von Suchergebnissen

    Die obersten Treffer einer internen oder öffentlichen Suche in mehreren europäischen Sprachen verbessern.

-   3

    ### Schwache Treffer aussortieren

    Kandidaten unter einem Schwellenwert verwerfen, damit irrelevanter Text gar nicht erst in den Prompt gelangt.

## BGE Reranker v2 M3: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Das hängt von Ihrer Verarbeitung ab. Auf inference.eu werden Reranking-Anfragen in Rechenzentren in der EU verarbeitet, nicht zum Training genutzt und durch einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO samt Liste der Unterauftragsverarbeiter abgedeckt. Ihre Anfragen und Dokumente gehen nicht an den Hersteller.

Ein Reranker bewertet, wie gut jeder Kandidat eine Anfrage beantwortet, indem er beide gemeinsam liest. Vektorsuche ist schnell, aber ungefähr. Ein Reranker auf den obersten Treffern ist pro Eintrag langsamer, aber genauer. Oft ist er der einfachste Weg zu besseren RAG-Antworten.

Üblich sind die besten 20 bis 100 Treffer aus Vektor- oder Stichwortsuche. Jedes Dokument wird einzeln mit der Anfrage bewertet, die Kosten wachsen also mit der Liste. Sortieren Sie genug Kandidaten, um den richtigen Abschnitt zu erwischen, und geben Sie nur die besten an das Chat-Modell.

Ja. Das Modell steht unter der Apache-2.0-Lizenz, die kommerzielle Nutzung, Änderung und Weitergabe ohne Gebühren oder Nutzergrenzen erlaubt. Sie können es in kostenpflichtigen Suchprodukten und internen Assistenten ohne gesonderte Vereinbarung mit BAAI einsetzen.

Er basiert auf bge-m3, das über 100 Sprachen unterstützt, und BAAI führt ihn als seinen mehrsprachigen Reranker. Er verarbeitet Deutsch, Französisch, Englisch und weitere europäische Sprachen, auch wenn Anfrage und Dokument in verschiedenen Sprachen vorliegen.

Höhere Werte bedeuten höhere Relevanz. Rohwerte sind unbegrenzt, BAAI zeigt, wie eine Sigmoidfunktion sie auf einen Bereich von 0 bis 1 abbildet. Nutzen Sie sie zum Sortieren und für eine Schwelle gegen schwache Treffer, abgestimmt auf Beispiele aus Ihren Daten.

Ja. Der Reranker liest nur Text und funktioniert daher nach bge-m3, Qwen3 Embedding 8B, multilingual-e5-large-instruct oder einer Stichwortsuche wie BM25. Am naheliegendsten ist die Kombination mit bge-m3, auf dem er basiert, die erste Stufe ist aber frei wählbar.

Die Qwen3-Reranker sind neuer und in größeren Varianten erhältlich, die schwierige Anfragen besser sortieren können. bge-reranker-v2-m3 ist kleiner, bewährt und günstig bei langen Kandidatenlisten. Vergleichen Sie beide mit echten Anfragen, deren richtige Antworten Sie kennen.

bge-reranker-v2-m3 ist ein offenes Modell von BAAI. Auf inference.eu laufen seine Gewichte in Rechenzentren in der EU, Ihre Anfragen und Dokumente gehen also nie nach China oder an BAAI. Ein Reranker liefert nur Werte und keinen generierten Text.

Verwenden Sie die inference.eu-Base-URL und Ihren inference.eu-Schlüssel und senden Sie eine POST-Anfrage an \`/v1/rerank\` mit \`model\` gleich \`bge-reranker-v2-m3\`, einer \`query\` und einer Liste von \`documents\`. Die Antwort nennt für jedes Dokument Index und Relevanzwert.

[Frage stellen](https://inference.eu/de/kontakt/)

## Verwandte Seiten

[Alle Modelle](https://inference.eu/de/modelle/#directory)

-   [BGE-M3bge-m3 auf inference.eu: kompaktes mehrsprachiges Embedding-Modell für Suche und RAG, über 100 Sprachen und 8192 Tokens, verarbeitet in der EU.Embeddings](https://inference.eu/de/modelle/bge-m3/)
-   [Qwen3 Embedding 8BQwen3 Embedding 8B auf inference.eu: mehrsprachige Embeddings für Suche und RAG, bis 4096 Dimensionen und 32K Tokens, verarbeitet in der EU.Embeddings](https://inference.eu/de/modelle/qwen3-embedding-8b/)
-   [multilingual-e5-large-instructmultilingual-e5-large-instruct auf inference.eu: kompakte Embeddings in 100 Sprachen für Suche, RAG und Klassifizierung, verarbeitet in der EU.Embeddings](https://inference.eu/de/modelle/multilingual-e5-large-instruct/)

## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

-   Antwort innerhalb eines Werktags
-   Preise für Ihr Volumen
-   AV-Vertrag unterschriftsreif