Embeddings · Microsoft (intfloat)
multilingual-e5-large-instruct Embeddings in der EU über eine OpenAI-kompatible API nutzen
multilingual-e5-large-instruct ist ein kompaktes Embedding-Modell von Microsoft-Forschern, das kurze Texte in rund 100 Sprachen in Vektoren mit 1024 Dimensionen umwandelt. Bei Suchanfragen nimmt es eine Aufgabeninstruktion an und passt sich so an Suche, Klassifizierung und Clustering an. Auf inference.eu rufen Sie es im OpenAI-Embeddings-Format auf, verarbeitet in Rechenzentren in der EU.
- 01560M
- 02Rechenzentren in der EU
- 03MIT
Was multilingual-e5-large-instruct ist
multilingual-e5-large-instruct gehört zur E5-Familie von Text-Embedding-Modellen, die Microsoft-Forscher unter dem Konto intfloat veröffentlichen. Es erschien im Februar 2024 unter der MIT-Lizenz. Es basiert auf XLM-RoBERTa large, hat 24 Schichten, rund 560 Millionen Parameter und eine Embedding-Größe von 1024.
Trainiert wurde es auf einer großen mehrsprachigen Sammlung von Textpaaren und anschließend mit Aufgabeninstruktionen feinjustiert. Es unterstützt die 100 Sprachen von XLM-RoBERTa, wobei die Qualität bei Sprachen mit wenig Trainingsdaten geringer ist. Eingaben sind auf 512 Tokens begrenzt. Es ist also für Sätze, Absätze und kurze Abschnitte gedacht, nicht für ganze Dokumente.
Stärken und Grenzen
Das Modell ist klein, schnell und gut erforscht. Damit passt es zu großen Indizes kurzer Texte: Produktbeschreibungen, FAQ-Einträge, Support-Tickets und Absätze aus Richtlinien. Weil Suchanfragen eine Instruktion tragen, lässt sich dasselbe Modell ohne Feinabstimmung auf Retrieval, semantische Ähnlichkeit, Klassifizierung oder Clustering ausrichten.
Die wichtigste Grenze sind die 512 Tokens pro Eingabe, lange Dokumente müssen Sie also in kurze Abschnitte zerlegen. Neuere Modelle wie bge-m3 verarbeiten 8192 Tokens, Qwen3 Embedding 8B sogar 32.000, und das größere Qwen-Modell trifft bei schwierigen Anfragen meist besser. Fehlt die Instruktion bei der Anfrage, sinkt die Qualität spürbar.
multilingual-e5-large-instruct über die API aufrufen
inference.eu verwendet das OpenAI-Anfrageformat. OpenAI-SDKs, LangChain, LlamaIndex und Vektordatenbank-Integrationen, die /v1/embeddings aufrufen, funktionieren daher unverändert. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell multilingual-e5-large-instruct ein.
Jede Suchanfrage braucht eine einzeilige Instruktion in der Form Instruct: {Aufgabe}, gefolgt von einem Zeilenumbruch und Query: {Text}, etwa Instruct: Given a web search query, retrieve relevant passages that answer the query. Dokumente betten Sie als reinen Text ohne Instruktion ein. Halten Sie Abschnitte unter 512 Tokens, längere Eingaben werden abgeschnitten.
Datenhaltung in der EU
Wer Inhalte indexiert, schickt jeden Abschnitt an das Embedding-Modell. Auf inference.eu läuft multilingual-e5-large-instruct auf Infrastruktur in der Europäischen Union. Ihre Dokumente und Suchanfragen werden in Rechenzentren in der EU verarbeitet und nie zum Training eines Modells verwendet.
Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. So dokumentieren Sie Ihre Such- oder RAG-Pipeline unkompliziert im Verzeichnis von Verarbeitungstätigkeiten. Abgerechnet wird in Euro, auf derselben Rechnung wie die Chat-Modelle, die die gefundenen Abschnitte nutzen. Die MIT-Lizenz erlaubt kommerzielle Nutzung mit wenigen Auflagen.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])
result = client.embeddings.create(
model="multilingual-e5-large-instruct",
input=["Where is my data processed?"],
)
print(len(result.data[0].embedding))Wofür Teams es einsetzen
- 1
Suche in FAQ und Hilfecenter
Kundenfragen in vielen Sprachen dem passenden Hilfeartikel oder FAQ-Eintrag zuordnen.
- 2
Klassifizierung kurzer Texte
Tickets, Bewertungen oder Formulareingaben mit einer Instruktion, die die Aufgabe beschreibt, in Kategorien einsortieren.
- 3
Semantische Ähnlichkeit
Ähnliche Produkte, doppelte Fragen oder verwandte Absätze in einem großen Katalog finden.
multilingual-e5-large-instruct: häufige Fragen
Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.
Verwandte Seiten
- BGE-M3bge-m3 auf inference.eu: kompaktes mehrsprachiges Embedding-Modell für Suche und RAG, über 100 Sprachen und 8192 Tokens, verarbeitet in der EU.Embeddings
- Qwen3 Embedding 8BQwen3 Embedding 8B auf inference.eu: mehrsprachige Embeddings für Suche und RAG, bis 4096 Dimensionen und 32K Tokens, verarbeitet in der EU.Embeddings
- BGE Reranker v2 M3bge-reranker-v2-m3 auf inference.eu: schlanker mehrsprachiger Reranker, der Such- und RAG-Ergebnisse nach Relevanz sortiert, verarbeitet in der EU.Reranking
Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur
Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.
- Antwort innerhalb eines Werktags
- Preise für Ihr Volumen
- AV-Vertrag unterschriftsreif