Embeddings · BAAI (Beijing Academy of Artificial Intelligence)
bge-m3 Embeddings in der EU über eine OpenAI-kompatible API nutzen
bge-m3 gehört zu den am häufigsten eingesetzten offenen Embedding-Modellen für mehrsprachige Suche und Retrieval-Augmented Generation. Es ist klein, unterstützt über 100 Sprachen und liest Eingaben mit bis zu 8192 Tokens. Auf inference.eu rufen Sie es im OpenAI-Embeddings-Format auf, Ihre Dokumente werden in Rechenzentren in der EU verarbeitet und nie zum Training genutzt.
- 01568M
- 02Rechenzentren in der EU
- 03MIT
Was bge-m3 ist
bge-m3 wurde im Januar 2024 von der Beijing Academy of Artificial Intelligence (BAAI) unter der MIT-Lizenz veröffentlicht. M3 steht für Multi-Functionality, Multi-Linguality und Multi-Granularity. Das Modell basiert auf XLM-RoBERTa, hat 24 Schichten, rund 568 Millionen Parameter und erzeugt dichte Vektoren mit 1024 Dimensionen.
In einem Durchlauf kann es drei Ausgaben liefern: dichte Embeddings, sparse lexikalische Gewichte ähnlich BM25 und Multi-Vektor-Darstellungen im Stil von ColBERT. Es unterstützt über 100 Sprachen und verarbeitet Eingaben von kurzen Sätzen bis zu langen Dokumenten mit 8192 Tokens. Es ist das Basismodell des Rerankers bge-reranker-v2-m3.
Stärken und Grenzen
bge-m3 ist ein starker und günstiger Standard für mehrsprachiges Retrieval. Dank der geringen Größe ist das Einbetten von Millionen Dokumenten bezahlbar, die 1024-dimensionalen Vektoren halten Indizes kompakt, und es funktioniert gut über europäische Sprachen hinweg, etwa wenn eine deutsche Anfrage ein englisches Dokument finden soll. Vektordatenbanken und RAG-Frameworks unterstützen es breit.
Seine Grenzen ergeben sich aus Alter und Größe. Neuere und deutlich größere Modelle wie Qwen3 Embedding 8B treffen bei schwierigen Anfragen meist besser und lesen längere Texte. bge-m3 hat eine feste Vektorgröße und nimmt keine Aufgabeninstruktionen an. Für die beste Rangfolge kombinieren Sie es mit einem Reranker wie bge-reranker-v2-m3.
bge-m3 über die API aufrufen
inference.eu verwendet das OpenAI-Anfrageformat. Jedes OpenAI-SDK, LangChain, LlamaIndex und jede Vektordatenbank-Integration, die /v1/embeddings aufruft, funktioniert daher unverändert. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell bge-m3 ein.
Übergeben Sie als input einen Text oder eine Liste von Texten, und Sie erhalten für jeden den dichten Vektor mit 1024 Dimensionen. Anders als manche Embedding-Modelle braucht bge-m3 kein Präfix und keine Instruktion: Anfragen und Dokumente werden gleich eingebettet. Bündeln Sie beim Indexieren Dokumente in einer Anfrage und nutzen Sie für Suchanfragen denselben Modellnamen.
Datenhaltung in der EU
Wer eine Wissensdatenbank indexiert, schickt den vollständigen Text seiner Dokumente an das Embedding-Modell. Auf inference.eu läuft bge-m3 auf Infrastruktur in der Europäischen Union. Verträge, Tickets, Wiki-Seiten und Kundendaten werden in Rechenzentren in der EU verarbeitet, nicht nach China gesendet und nie zum Training eines Modells verwendet.
Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. Das erleichtert die Dokumentation Ihrer Such- oder RAG-Pipeline im Verzeichnis von Verarbeitungstätigkeiten. Abgerechnet wird in Euro, auf einer Rechnung mit den Chat-Modellen, die die gefundenen Abschnitte nutzen. Die MIT-Lizenz erlaubt kommerzielle Nutzung mit wenigen Auflagen.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])
result = client.embeddings.create(
model="bge-m3",
input=["Where is my data processed?"],
)
print(len(result.data[0].embedding))Wofür Teams es einsetzen
- 1
Mehrsprachiges RAG
Dokumente in mehreren europäischen Sprachen indexieren und die passenden Abschnitte für ein Chat-Modell finden, egal in welcher Sprache gefragt wird.
- 2
Semantische Suche in großem Umfang
Millionen Dokumente mit geringem Rechenaufwand einbetten und den Index mit 1024-dimensionalen Vektoren kompakt halten.
- 3
Dubletten und Clustering
Fast identische Datensätze erkennen, ähnliche Tickets gruppieren oder Feedback sprachübergreifend nach Themen bündeln.
BGE-M3: häufige Fragen
Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.
Verwandte Seiten
- BGE Reranker v2 M3bge-reranker-v2-m3 auf inference.eu: schlanker mehrsprachiger Reranker, der Such- und RAG-Ergebnisse nach Relevanz sortiert, verarbeitet in der EU.Reranking
- Qwen3 Embedding 8BQwen3 Embedding 8B auf inference.eu: mehrsprachige Embeddings für Suche und RAG, bis 4096 Dimensionen und 32K Tokens, verarbeitet in der EU.Embeddings
- multilingual-e5-large-instructmultilingual-e5-large-instruct auf inference.eu: kompakte Embeddings in 100 Sprachen für Suche, RAG und Klassifizierung, verarbeitet in der EU.Embeddings
Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur
Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.
- Antwort innerhalb eines Werktags
- Preise für Ihr Volumen
- AV-Vertrag unterschriftsreif