inference.eu

Embeddings · Microsoft (intfloat)

multilingual-e5-large-instruct Embeddings in der EU über eine OpenAI-kompatible API nutzen

multilingual-e5-large-instruct ist ein kompaktes Embedding-Modell von Microsoft-Forschern, das kurze Texte in rund 100 Sprachen in Vektoren mit 1024 Dimensionen umwandelt. Bei Suchanfragen nimmt es eine Aufgabeninstruktion an und passt sich so an Suche, Klassifizierung und Clustering an. Auf inference.eu rufen Sie es im OpenAI-Embeddings-Format auf, verarbeitet in Rechenzentren in der EU.

  1. 01560M
  2. 02Rechenzentren in der EU
  3. 03MIT

Was multilingual-e5-large-instruct ist

multilingual-e5-large-instruct gehört zur E5-Familie von Text-Embedding-Modellen, die Microsoft-Forscher unter dem Konto intfloat veröffentlichen. Es erschien im Februar 2024 unter der MIT-Lizenz. Es basiert auf XLM-RoBERTa large, hat 24 Schichten, rund 560 Millionen Parameter und eine Embedding-Größe von 1024.

Trainiert wurde es auf einer großen mehrsprachigen Sammlung von Textpaaren und anschließend mit Aufgabeninstruktionen feinjustiert. Es unterstützt die 100 Sprachen von XLM-RoBERTa, wobei die Qualität bei Sprachen mit wenig Trainingsdaten geringer ist. Eingaben sind auf 512 Tokens begrenzt. Es ist also für Sätze, Absätze und kurze Abschnitte gedacht, nicht für ganze Dokumente.

Stärken und Grenzen

Das Modell ist klein, schnell und gut erforscht. Damit passt es zu großen Indizes kurzer Texte: Produktbeschreibungen, FAQ-Einträge, Support-Tickets und Absätze aus Richtlinien. Weil Suchanfragen eine Instruktion tragen, lässt sich dasselbe Modell ohne Feinabstimmung auf Retrieval, semantische Ähnlichkeit, Klassifizierung oder Clustering ausrichten.

Die wichtigste Grenze sind die 512 Tokens pro Eingabe, lange Dokumente müssen Sie also in kurze Abschnitte zerlegen. Neuere Modelle wie bge-m3 verarbeiten 8192 Tokens, Qwen3 Embedding 8B sogar 32.000, und das größere Qwen-Modell trifft bei schwierigen Anfragen meist besser. Fehlt die Instruktion bei der Anfrage, sinkt die Qualität spürbar.

multilingual-e5-large-instruct über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. OpenAI-SDKs, LangChain, LlamaIndex und Vektordatenbank-Integrationen, die /v1/embeddings aufrufen, funktionieren daher unverändert. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell multilingual-e5-large-instruct ein.

Jede Suchanfrage braucht eine einzeilige Instruktion in der Form Instruct: {Aufgabe}, gefolgt von einem Zeilenumbruch und Query: {Text}, etwa Instruct: Given a web search query, retrieve relevant passages that answer the query. Dokumente betten Sie als reinen Text ohne Instruktion ein. Halten Sie Abschnitte unter 512 Tokens, längere Eingaben werden abgeschnitten.

Datenhaltung in der EU

Wer Inhalte indexiert, schickt jeden Abschnitt an das Embedding-Modell. Auf inference.eu läuft multilingual-e5-large-instruct auf Infrastruktur in der Europäischen Union. Ihre Dokumente und Suchanfragen werden in Rechenzentren in der EU verarbeitet und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. So dokumentieren Sie Ihre Such- oder RAG-Pipeline unkompliziert im Verzeichnis von Verarbeitungstätigkeiten. Abgerechnet wird in Euro, auf derselben Rechnung wie die Chat-Modelle, die die gefundenen Abschnitte nutzen. Die MIT-Lizenz erlaubt kommerzielle Nutzung mit wenigen Auflagen.

multilingual-e5-large-instruct · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

result = client.embeddings.create(
    model="multilingual-e5-large-instruct",
    input=["Where is my data processed?"],
)
print(len(result.data[0].embedding))

Wofür Teams es einsetzen

  • 1

    Suche in FAQ und Hilfecenter

    Kundenfragen in vielen Sprachen dem passenden Hilfeartikel oder FAQ-Eintrag zuordnen.

  • 2

    Klassifizierung kurzer Texte

    Tickets, Bewertungen oder Formulareingaben mit einer Instruktion, die die Aufgabe beschreibt, in Kategorien einsortieren.

  • 3

    Semantische Ähnlichkeit

    Ähnliche Produkte, doppelte Fragen oder verwandte Absätze in einem großen Katalog finden.

multilingual-e5-large-instruct: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif