inference.eu

GET /v1/models

Models API: verfügbare offene Modelle für Ihren Schlüssel abrufen

Der Models-Endpunkt liefert alle Modelle, die Ihr API-Schlüssel aufrufen darf, im selben Listenformat wie die OpenAI API. Werkzeuge mit Modellauswahl, etwa Chat-Oberflächen, IDE-Erweiterungen und Coding-Agenten, füllen damit ihre Menüs. In Ihrem eigenen Code ist er der verlässliche Weg, eine Modell-ID zu prüfen, bevor Sie Verkehr darauf leiten.

  1. 01API-Format: OpenAI
  2. 02Rechenzentren in der EU
  3. 03Durch einen AV-Vertrag abgedeckt
GET /v1/models
curl https://api.inference.eu/v1/models \
  -H "Authorization: Bearer $INFERENCE_EU_API_KEY"

# {
#   "object": "list",
#   "data": [
#     {"id": "gpt-oss-120b", "object": "model", "created": 1754438400, "owned_by": "openai"},
#     {"id": "qwen3-embedding-8b", "object": "model", "created": 1749081600, "owned_by": "qwen"},
#     {"id": "bge-reranker-v2-m3", "object": "model", "created": 1710460800, "owned_by": "baai"}
#   ]
# }

Was der Endpunkt leistet

GET /v1/models braucht keinen Anfragekörper. Sie authentifizieren sich mit Ihrem Schlüssel als Bearer-Token, und die API liefert ein Objekt mit object: "list" und einem Array data. Jeder Eintrag enthält eine id, also genau den String für das Feld model anderer Anfragen, außerdem object: "model", einen Zeitstempel created und owned_by, die Organisation, die die Gewichte veröffentlicht hat.

Die Liste umfasst alle Modelltypen des Katalogs: Chat und Reasoning, Vision, Code, Embeddings, Reranker, Spracherkennung, Sprachsynthese und Bildgenerierung. Jedes aufgeführte Modell läuft in europäischen Rechenzentren.

Ein einzelnes Modell abrufen

GET /v1/models/{model} liefert einen einzelnen Eintrag im selben Format oder 404, wenn die ID nicht existiert oder Ihr Schlüssel sie nicht nutzen darf. Das ist eine günstige Prüfung beim Start Ihrer Anwendung: Nennt Ihre Konfiguration ein Modell, stellen Sie vor der ersten Nutzeranfrage sicher, dass es verfügbar ist, statt einen Tippfehler erst im Betrieb zu bemerken.

Die Liste kann sich je nach Schlüssel unterscheiden. Modelle lassen sich pro Projekt oder Tarif freischalten, und dedizierte Deployments sieht nur Ihre Organisation. Rufen Sie die Liste daher mit dem Schlüssel ab, den Ihre Anwendung tatsächlich verwendet.

Modell-IDs in der Praxis wählen

Modell-IDs sind kleingeschriebene Strings nach dem veröffentlichten Namen, etwa gpt-oss-120b, qwen3-embedding-8b oder whisper-large-v3-turbo. Legen Sie sie in der Konfiguration ab statt verstreut im Code, damit ein neues Modell eine Frage der Einstellung ist.

Nutzen Sie den Endpunkt, um je Aufgabe das passende Modell festzulegen: ein großes Reasoning-Modell für komplexe Fragen, ein kleineres Chat-Modell für Klassifizierung, ein Embedding-Modell und einen Reranker für die Suche. Die Modellseiten dieser Website beschreiben Lizenz, Kontextlänge und Stärken, der Endpunkt zeigt, was Ihr Schlüssel gerade aufrufen kann.

Fehler und Sonderfälle

Ein fehlender oder ungültiger Schlüssel ergibt 401 mit dem üblichen Objekt error. Fragen Sie ein Modell an, das Ihr Schlüssel nicht nutzen darf, oder vertippen Sie sich bei der ID, erhalten Sie 404; die Meldung nennt die gesendete ID, damit Sie den Fehler schnell finden.

Wird ein Modell durch eine neuere Version ersetzt, bleibt die alte ID für eine Übergangszeit nutzbar und wir kündigen den Wechsel vorher an. Verlassen Sie sich nicht auf die Reihenfolge der Einträge in data. Wenn Sie die Liste zwischenspeichern, aktualisieren Sie sie regelmäßig.

List models: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif