--- title: "Responses-API aus der EU · OpenAI-kompatibel" description: "Nutzen Sie das Format der OpenAI Responses API mit Open-Weight-Modellen auf inference.eu. Typisierte Ausgaben, eingebaute Werkzeuge, Verarbeitung in der EU." canonical: "https://inference.eu/de/api/responses/" language: "de" --- POST /v1/responses # Responses API: das OpenAI-Responses-Format, verarbeitet in der EU Der Responses-Endpunkt ist die neuere der beiden Generierungs-APIs im OpenAI-Stil. Er arbeitet mit \`instructions\` und \`input\` statt mit einer Nachrichtenliste, liefert typisierte Ausgabeelemente und ist der Ort, an dem Sie eingebaute Werkzeuge wie Websuche, Codeausführung und entfernte MCP-Server konfigurieren. Für neue Projekte und Agenten mit dem OpenAI Agents SDK ist er meist die richtige Wahl. [Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Beispielanfrage](#example) 1. 01API-Format: OpenAI 2. 02Rechenzentren in der EU 3. 03Durch einen AV-Vertrag abgedeckt POST /v1/responses ``` curl https://api.inference.eu/v1/responses \ -H "Authorization: Bearer $INFERENCE_EU_API_KEY" \ -H "Content-Type: application/json" \ -d '{ "model": "gpt-oss-120b", "instructions": "You are a support assistant for a Dutch logistics company. Answer in two short paragraphs.", "input": "A customer says their pallet was delivered to the wrong depot. What should I ask them first?", "max_output_tokens": 500, "reasoning": {"effort": "low"} }' ``` ## Was der Endpunkt leistet `POST /v1/responses` erzeugt eine Antwort aus `input`. Das kann ein einfacher String sein oder eine Liste von Elementen: Nachrichten, Bilder, frühere Ausgaben und Ergebnisse von Werkzeugen. `instructions` enthält den Systemprompt, getrennt vom Inhalt der Nutzer, sodass Sie ihn ändern können, ohne die Eingabe neu aufzubauen. Die Ausgabe ist ein Array `output`. Eine einfache Antwort besteht aus einem Element vom Typ `message`, ein Agenten-Schritt kann dagegen Reasoning, Funktionsaufrufe, Websuchen und MCP-Aufrufe in zeitlicher Reihenfolge enthalten. Die OpenAI-SDKs fassen die Textteile in der Eigenschaft `output_text` zusammen. ## Die wichtigsten Felder der Anfrage Pflicht sind nur `model` und `input`. `max_output_tokens` begrenzt die Antwort einschließlich der Reasoning-Tokens, `reasoning.effort` (`low`, `medium` oder `high`) legt fest, wie gründlich ein Reasoning-Modell nachdenkt. `temperature` und `top_p` wirken wie bei Chat Completions. In `tools` stehen Ihre eigenen Funktionen sowie eingebaute Typen wie `web_search`, `code_interpreter` und `mcp`. Über `text.format` fordern Sie JSON nach einem Schema an. Mit `stream: true` erhalten Sie typisierte Server-Sent Events wie `response.output_text.delta`, und `previous_response_id` setzt einen früheren Schritt fort, ohne den gesamten Verlauf erneut zu senden. ## Gesprächszustand und Speicherung Bei Chat Completions schickt Ihr Code jedes Mal den kompletten Verlauf. Bei Responses genügt `previous_response_id`, und die API stellt den Kontext aus der gespeicherten Antwort wieder her. Das hält Anfragen in langen Agenten-Schleifen klein und bewahrt die Reasoning-Elemente zwischen den Schritten. Gespeicherte Antworten liegen in der EU und werden nie für Training verwendet. Möchten Sie gar nichts speichern lassen, setzen Sie `store` auf `false` und senden den vollständigen Input bei jeder Anfrage, genau wie bei Chat Completions. Wie lange gespeicherte Antworten aufbewahrt werden, hängt von Ihrem Vertrag ab und wird vor dem Start mit Ihnen abgestimmt. ## Fehler und Sonderfälle Prüfen Sie bei jeder Antwort das Feld `status`. `completed` ist der Normalfall. `incomplete` bedeutet einen vorzeitigen Abbruch, und `incomplete_details.reason` verrät, ob `max_output_tokens` erreicht war. Eine Antwort mit `failed` enthält ein Objekt `error`. HTTP-Fehler folgen dem bekannten Schema: 400 für ungültige Anfragen, 401 für falsche Schlüssel, 404 für unbekannte Modelle oder Antwort-IDs, 429 beim Erreichen eines Tariflimits. Gehen Sie nicht davon aus, dass das erste Element der Text ist. Reasoning-Modelle stellen ein Element `reasoning` voran. Durchlaufen Sie `output` und wählen Sie nach `type` aus, oder nutzen Sie `output_text` im SDK. ## Responses Endpunkt POST /v1/responses Kategorie Endpunkte API-Format OpenAI Base URL api.inference.eu/v1 Verarbeitung Rechenzentren in der EU Training mit Ihren Daten Nie ## Responses: häufige Fragen Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt. Anfrage- und Antwortformat folgen der OpenAI Responses API, einschließlich \`instructions\`, \`input\`, typisierter \`output\`-Elemente, Streaming-Events und \`previous\_response\_id\`. Sie richten das OpenAI-SDK auf die Basis-URL von inference.eu und rufen \`client.responses.create\` auf. Die Modelle sind Open-Weight-Modelle, verarbeitet in Rechenzentren in der EU. Chat Completions eignet sich, wenn bestehender Code oder ein Framework dieses Format erwartet; es ist zustandslos und weit verbreitet. Responses empfiehlt sich für neue Agenten, eingebaute Werkzeuge wie Websuche oder MCP und lange mehrstufige Aufgaben, bei denen \`previous\_response\_id\` das erneute Senden des Verlaufs erspart. Übergeben Sie die \`id\` der vorherigen Antwort als \`previous\_response\_id\` zusammen mit dem neuen \`input\`. Die API stellt den früheren Kontext einschließlich der Reasoning-Elemente wieder her, sodass Sie nur das Neue senden. Mit \`store: false\` verwalten Sie den Verlauf selbst und schicken ihn vollständig in \`input\`. Gespeicherte Antworten liegen zusammen mit den zugehörigen Anfragen in europäischen Rechenzentren und werden nie zum Training von Modellen verwendet. Pro Anfrage können Sie mit \`store: false\` darauf verzichten. Die Aufbewahrungsdauer hängt von Ihrem Vertrag ab, und wir bestätigen sie Ihnen schriftlich. Ja. Mit \`stream: true\` erhalten Sie typisierte Server-Sent Events, etwa \`response.created\`, \`response.output\_text.delta\` für Text und \`response.completed\` zum Abschluss. Die OpenAI-SDKs werten diese Events aus, sodass Sie Textteile sofort anzeigen und am Ende das vollständige Antwortobjekt lesen können. Ja. Das Agents SDK verwendet standardmäßig die Responses API. Legen Sie einen OpenAI-Client mit Basis-URL und Schlüssel von inference.eu an, übergeben Sie ihn dem SDK als Standard-Client und wählen Sie eine offene Modell-ID. Funktionswerkzeuge, Handoffs und Streaming funktionieren über das übliche Responses-Format. Das Modell hat aufgehört, bevor es fertig war. Lesen Sie \`incomplete\_details.reason\`: Steht dort \`max\_output\_tokens\`, reichte das Limit nicht für Antwort und Reasoning. Erhöhen Sie das Limit, senken Sie \`reasoning.effort\` oder bitten Sie um eine kürzere Antwort und senden Sie die Anfrage erneut. Neben eigenen \`function\`-Werkzeugen stehen die eingebauten Typen \`web\_search\`, \`code\_interpreter\` und \`mcp\` für entfernte MCP-Server zur Verfügung. Eingebaute Werkzeuge laufen bei uns in der EU, und ihre Aufrufe erscheinen als typisierte Elemente in \`output\`. Werkzeuge, die OpenAI nur für eigene Produkte anbietet, sind nicht verfügbar. [Frage stellen](https://inference.eu/de/kontakt/) ## Verwandte Seiten [API-Überblick](https://inference.eu/de/api/) - [Chat completionsSenden Sie Chat-Nachrichten im OpenAI-Format an Open-Weight-Modelle. Verarbeitung in Rechenzentren in der EU, keine Nutzung Ihrer Daten für Training.Endpunkte](https://inference.eu/de/api/chat-completions/) - [Remote MCP serversBinden Sie entfernte MCP-Server über das mcp-Werkzeug der Responses API in Anfragen ein. Die API listet und ruft die Werkzeuge für Sie auf, in der EU.Tools](https://inference.eu/de/api/mcp/) - [Web searchLassen Sie offene Modelle während einer Anfrage im Web suchen, mit dem web\_search-Werkzeug der Responses API. Aktuelle Antworten mit Quellenangaben.Tools](https://inference.eu/de/api/web-search/) - [Code executionLassen Sie offene Modelle Python in einer Sandbox schreiben und ausführen, mit dem code\_interpreter-Werkzeug der Responses API. Datenanalyse in der EU.Tools](https://inference.eu/de/api/code-execution/) ## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten. - Antwort innerhalb eines Werktags - Preise für Ihr Volumen - AV-Vertrag unterschriftsreif