--- title: "Embeddings-API aus der EU · OpenAI-kompatibel" description: "Wandeln Sie Text in Vektoren für Suche, RAG und Clustering um. OpenAI-kompatible Embeddings-API mit offenen Modellen, Verarbeitung in Rechenzentren der EU." canonical: "https://inference.eu/de/api/embeddings/" language: "de" --- POST /v1/embeddings # Embeddings-API: OpenAI-kompatible Vektoren, verarbeitet in der EU Der Embeddings-Endpunkt wandelt Text in Zahlenvektoren um, die seine Bedeutung abbilden, sodass ähnliche Passagen nah beieinanderliegen. Darauf bauen semantische Suche, Retrieval-Augmented Generation, Duplikaterkennung und Clustering auf. Das Anfrageformat entspricht dem von OpenAI, und die Dokumente, die Sie einbetten, oft Ihre sensibelsten Daten, werden in europäischen Rechenzentren verarbeitet. [Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Beispielanfrage](#example) 1. 01API-Format: OpenAI 2. 02Rechenzentren in der EU 3. 03Durch einen AV-Vertrag abgedeckt POST /v1/embeddings ``` curl https://api.inference.eu/v1/embeddings \ -H "Authorization: Bearer $INFERENCE_EU_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "qwen3-embedding-8b", "input": [ "Die Kündigungsfrist beträgt drei Monate zum Quartalsende.", "The notice period is three months to the end of a quarter.", "Le préavis est de trois mois avant la fin du trimestre." ], "dimensions": 1024, "encoding_format": "float" }' ``` ## Was der Endpunkt leistet `POST /v1/embeddings` erwartet ein `model` und einen `input`, also einen String oder ein Array von Strings, und liefert je Eingabe einen Vektor. Die Antwort enthält ein Array `data`, dessen Elemente einen `index` passend zur Position der Eingabe und ein `embedding` als Liste von Gleitkommazahlen tragen. `usage` meldet die verbrauchten `prompt_tokens`. Mehrsprachige Modelle wie `qwen3-embedding-8b` legen einen deutschen, einen englischen und einen französischen Satz mit gleicher Bedeutung nah zusammen. Eine Frage in einer Sprache findet so Dokumente in einer anderen. Für europäische Unternehmen, deren Verträge, Tickets und Wikis selten einsprachig sind, ist das entscheidend. ## Die wichtigsten Felder der Anfrage Senden Sie Stapel statt eines Strings pro Anfrage: Ein Array von Eingaben wird gemeinsam verarbeitet und ist deutlich effizienter. Jede Eingabe muss in die maximale Eingabelänge des Modells passen, teilen Sie lange Dokumente also vorher in Abschnitte. `dimensions` verkürzt den Vektor bei Modellen, die dafür trainiert sind, etwa der Qwen3-Embedding-Familie. Kürzere Vektoren brauchen weniger Speicher und beschleunigen die Suche bei geringem Genauigkeitsverlust; testen Sie 512 oder 1024 gegen die volle Länge mit Ihren eigenen Daten. `encoding_format` ist `float` oder `base64`, Letzteres verkleinert große Antworten. Nutzen Sie für Dokumente und Anfragen stets dasselbe Modell und dieselbe Dimension. ## Ein bewährtes RAG-Muster Eine typische Retrieval-Pipeline wandelt Dokumente in sauberen Text um, teilt ihn in überlappende Abschnitte von einigen hundert Tokens, bettet jeden Abschnitt ein und speichert die Vektoren samt Quelltext in einer Vektordatenbank wie pgvector, Qdrant oder Weaviate. Bei einer Anfrage betten Sie die Frage ein, holen die 20 bis 50 nächsten Abschnitte per Kosinus-Ähnlichkeit und lassen einen Reranker die besten fünf auswählen. Diese Abschnitte erhält dann ein Chat-Modell als Kontext. Bei Qwen3-Embeddings stellen Sie Anfragen eine kurze Aufgabenbeschreibung voran, wie die Modellkarte empfiehlt, Dokumente betten Sie ohne ein. Die erste Indexierung großer Bestände läuft am besten über die Batch-API. ## Fehler und Sonderfälle Eine Eingabe über dem Limit des Modells führt zu einem 400-Fehler und wird nicht stillschweigend gekürzt, teilen Sie also vorher auf. Leere Strings werden ebenfalls abgelehnt; filtern Sie sie heraus. Eine Chat-Modell-ID an diesem Endpunkt ergibt einen Fehler mit Hinweis auf den Modelltyp, eine unbekannte ID 404. Vektoren verschiedener Modelle oder desselben Modells mit unterschiedlichem `dimensions` sind nicht vergleichbar. Ändern Sie eines davon, betten Sie den gesamten Bestand neu ein. Die meisten Modelle liefern normalisierte Vektoren, sodass Kosinus-Ähnlichkeit und Skalarprodukt dieselbe Reihenfolge ergeben. Wiederholen Sie 429-Antworten mit Backoff und nutzen Sie für große Indexierungen Batches. ## Embeddings Endpunkt POST /v1/embeddings Kategorie Endpunkte API-Format OpenAI Base URL api.inference.eu/v1 Verarbeitung Rechenzentren in der EU Training mit Ihren Daten Nie ## Embeddings: häufige Fragen Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt. Ja. Die Anfrage nimmt \`model\`, \`input\`, \`dimensions\` und \`encoding\_format\` entgegen, die Antwort liefert \`data\`-Elemente mit \`index\` und \`embedding\` sowie \`usage\`, genau wie die OpenAI API. \`client.embeddings.create\` in den OpenAI-SDKs, \`OpenAIEmbeddings\` in LangChain und LlamaIndex funktionieren nach Änderung von Basis-URL und Schlüssel. Für mehrsprachige europäische Texte ist \`qwen3-embedding-8b\` ein guter Ausgangspunkt und unterstützt kürzere Vektoren über \`dimensions\`. Kleinere Embedding-Modelle sind bei großen Mengen günstiger. Testen Sie zwei oder drei mit einer Stichprobe echter Anfragen und messen Sie, wie oft das richtige Dokument unter den ersten Treffern ist. Ja, mit einem mehrsprachigen Embedding-Modell. Solche Modelle bilden Sätze gleicher Bedeutung unabhängig von der Sprache auf nahe Vektoren ab, sodass eine englische Frage deutsche oder französische Passagen findet. Ein Reranker verbessert die Reihenfolge, und das Chat-Modell antwortet in der Sprache der Nutzer. Sie können ein Array von Eingaben in einer Anfrage senden, und das ist wesentlich effizienter als ein Aufruf pro Text. Die maximale Anzahl an Eingaben und Tokens pro Anfrage hängt vom Modell und Ihrem Tarif ab und wird mit Ihnen abgestimmt. Für Millionen Abschnitte nutzen Sie die Batch-API. Jede Eingabe muss in die maximale Eingabelänge des Modells in Tokens passen, die auf der jeweiligen Modellseite steht. In der Praxis funktioniert Retrieval am besten mit Abschnitten von einigen hundert Tokens, weil ein einziger Vektor für ein langes Dokument dessen Details verwischt. Zu lange Eingaben ergeben einen 400-Fehler. Oft ja. Modelle mit Unterstützung für \`dimensions\` behalten bei 512 oder 1024 Werten den Großteil ihrer Genauigkeit, und kleinere Vektoren sparen Speicher und beschleunigen die Suche. Vergleichen Sie die Trefferqualität mit Ihren eigenen Daten, bevor Sie sich festlegen, denn eine spätere Änderung erfordert eine komplette Neueinbettung. Nein. Text, den Sie an den Embeddings-Endpunkt senden, wird in Rechenzentren in der EU verarbeitet, um die Vektoren zu berechnen, und nie zum Training von Modellen verwendet. Die Vektoren erhalten Sie zurück; wo und wie lange Sie sie speichern, entscheiden Sie in Ihrer Vektordatenbank. Nicht immer, aber meist lohnt es sich. Embeddings finden Kandidaten schnell in Millionen Abschnitten, ein Reranker liest Anfrage und Kandidat gemeinsam und bewertet genauer. 30 Kandidaten abrufen und auf die besten fünf umsortieren ist ein verbreitetes und verlässliches Setup für RAG. [Frage stellen](https://inference.eu/de/kontakt/) ## Verwandte Seiten [API-Überblick](https://inference.eu/de/api/) - [RerankSortieren Sie Suchergebnisse für RAG nach Relevanz mit einer Rerank-API. Cross-Encoder-Modelle wie bge-reranker-v2-m3, Verarbeitung in Rechenzentren der EU.Endpunkte](https://inference.eu/de/api/rerank/) - [Document conversionWandeln Sie PDF-, Word-, PowerPoint- und Excel-Dateien in sauberes Markdown für RAG und Prompts um. Tabellen, Überschriften und Scans, verarbeitet in der EU.Tools](https://inference.eu/de/api/document-conversion/) - [BatchesFühren Sie Tausende Chat- oder Embedding-Anfragen als asynchronen Job aus. OpenAI-kompatible Batch-API mit JSONL-Upload, verarbeitet in der EU.Endpunkte](https://inference.eu/de/api/batches/) - [List modelsListen Sie mit GET /v1/models im OpenAI-Format alle Open-Weight-Modelle auf, die Ihr inference.eu-Schlüssel nutzen darf, von Chat bis Embeddings.Endpunkte](https://inference.eu/de/api/models/) ## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten. - Antwort innerhalb eines Werktags - Preise für Ihr Volumen - AV-Vertrag unterschriftsreif