Responses API: das OpenAI-Responses-Format, verarbeitet in der EU

POST /v1/responses erzeugt eine Antwort aus input. Das kann ein einfacher String sein oder eine Liste von Elementen: Nachrichten, Bilder, frühere Ausgaben und Ergebnisse von Werkzeugen. instructions enthält den Systemprompt, getrennt vom Inhalt der Nutzer, sodass Sie ihn ändern können, ohne die Eingabe neu aufzubauen.

Die Ausgabe ist ein Array output. Eine einfache Antwort besteht aus einem Element vom Typ message, ein Agenten-Schritt kann dagegen Reasoning, Funktionsaufrufe, Websuchen und MCP-Aufrufe in zeitlicher Reihenfolge enthalten. Die OpenAI-SDKs fassen die Textteile in der Eigenschaft output_text zusammen.

Pflicht sind nur model und input. max_output_tokens begrenzt die Antwort einschließlich der Reasoning-Tokens, reasoning.effort (low, medium oder high) legt fest, wie gründlich ein Reasoning-Modell nachdenkt. temperature und top_p wirken wie bei Chat Completions.

In tools stehen Ihre eigenen Funktionen sowie eingebaute Typen wie web_search, code_interpreter und mcp. Über text.format fordern Sie JSON nach einem Schema an. Mit stream: true erhalten Sie typisierte Server-Sent Events wie response.output_text.delta, und previous_response_id setzt einen früheren Schritt fort, ohne den gesamten Verlauf erneut zu senden.

Bei Chat Completions schickt Ihr Code jedes Mal den kompletten Verlauf. Bei Responses genügt previous_response_id, und die API stellt den Kontext aus der gespeicherten Antwort wieder her. Das hält Anfragen in langen Agenten-Schleifen klein und bewahrt die Reasoning-Elemente zwischen den Schritten.

Gespeicherte Antworten liegen in der EU und werden nie für Training verwendet. Möchten Sie gar nichts speichern lassen, setzen Sie store auf false und senden den vollständigen Input bei jeder Anfrage, genau wie bei Chat Completions. Wie lange gespeicherte Antworten aufbewahrt werden, hängt von Ihrem Vertrag ab und wird vor dem Start mit Ihnen abgestimmt.

Prüfen Sie bei jeder Antwort das Feld status. completed ist der Normalfall. incomplete bedeutet einen vorzeitigen Abbruch, und incomplete_details.reason verrät, ob max_output_tokens erreicht war. Eine Antwort mit failed enthält ein Objekt error. HTTP-Fehler folgen dem bekannten Schema: 400 für ungültige Anfragen, 401 für falsche Schlüssel, 404 für unbekannte Modelle oder Antwort-IDs, 429 beim Erreichen eines Tariflimits.

Gehen Sie nicht davon aus, dass das erste Element der Text ist. Reasoning-Modelle stellen ein Element reasoning voran. Durchlaufen Sie output und wählen Sie nach type aus, oder nutzen Sie output_text im SDK.