POST /v1/responses
MCP-Werkzeug: entfernte MCP-Server direkt aus API-Anfragen aufrufen
Das Model Context Protocol (MCP) ist ein offener Standard, um Sprachmodellen Werkzeuge bereitzustellen. Viele Produkte veröffentlichen inzwischen einen MCP-Server für ihre Daten. Mit dem Werkzeug `mcp` in der Responses API fügen Sie einer Anfrage einen Server hinzu, und die inference.eu API verbindet sich, listet dessen Werkzeuge und ruft sie auf, während das Modell an Ihrer Aufgabe arbeitet. Die Werkzeugschleife müssen Sie nicht selbst schreiben.
- 01API-Format: OpenAI
- 02Rechenzentren in der EU
- 03Durch einen AV-Vertrag abgedeckt
curl https://api.inference.eu/v1/responses \
-H "Authorization: Bearer $INFERENCE_EU_API_KEY" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-oss-120b",
"tools": [{
"type": "mcp",
"server_label": "crm",
"server_description": "Customer records and open support cases",
"server_url": "https://mcp.example.eu/mcp",
"headers": {"Authorization": "Bearer '"$CRM_MCP_TOKEN"'"},
"allowed_tools": ["search_customers", "get_open_cases"],
"require_approval": "never"
}],
"input": "Which open cases does Müller Logistik GmbH have, and how old is the oldest one?"
}'Was das MCP-Werkzeug leistet
Ergänzen Sie im Array tools einer Anfrage an POST /v1/responses einen Eintrag mit type: "mcp". Geben Sie ihm ein server_label, das den Server in der Ausgabe benennt, und die server_url eines entfernten MCP-Servers mit Streamable-HTTP-Transport. Eine optionale server_description hilft dem Modell zu entscheiden, wann der Server nützlich ist.
Bei der Ausführung holt die API die Werkzeugliste des Servers und stellt sie dem Modell zur Verfügung. Entscheidet sich das Modell für ein Werkzeug, ruft die API den Server auf, gibt das Ergebnis an das Modell zurück und macht weiter, bis eine Antwort vorliegt. Die Aufrufe erfolgen von unserer Infrastruktur in der EU aus.
Authentifizierung, Filter und Freigaben
Die meisten Server brauchen Zugangsdaten. Übergeben Sie sie in headers, etwa als Header Authorization mit einem Token für den Dienst. Header werden nur für den Aufruf genutzt und nicht in der Antwort zurückgegeben. Verwenden Sie trotzdem ein Token mit möglichst engen Rechten.
allowed_tools begrenzt, welche Werkzeuge des Servers das Modell sieht. Das hält den Prompt klein und das Verhalten vorhersehbar. require_approval legt fest, ob ein Aufruf Ihre Bestätigung braucht: never führt Aufrufe automatisch aus, always hält jeden an, und ein Objekt mit Listen always und never regelt es pro Werkzeug. Freigaben empfehlen sich für Werkzeuge, die Daten ändern, etwa Tickets anlegen oder Nachrichten senden.
Die Ausgabe auslesen
Das Array output zeigt den Ablauf in Reihenfolge. Ein Element mcp_list_tools hält fest, welche Werkzeuge der Server angeboten hat. Jeder Aufruf erscheint als Element mcp_call mit server_label, Werkzeugname in name, den JSON-arguments und dem output des Servers oder einem error. Das abschließende Element message enthält die Antwort, in den SDKs auch als output_text.
Ist eine Freigabe nötig, enthält die Antwort stattdessen ein Element mcp_approval_request. Zum Fortsetzen senden Sie eine neue Anfrage mit previous_response_id und einem Eingabeelement vom Typ mcp_approval_response, das auf die id der Anfrage verweist und approve auf true oder false setzt.
Fehler und Sonderfälle
Ist der Server nicht erreichbar, lehnt er die Zugangsdaten ab oder liefert er eine ungültige Werkzeugliste, scheitert die Anfrage mit einem Fehler, der das server_label nennt, oder das Element mcp_call trägt den Fehler, damit das Modell ihn erklären kann. Prüfen Sie, ob die URL öffentlich per HTTPS erreichbar und das Token gültig ist.
Das Modell sieht alles, was der Server zurückgibt. Binden Sie daher nur vertrauenswürdige Server ein, denn Werkzeugausgaben können Anweisungen enthalten, die das Modell lenken sollen. Lange Werkzeuglisten und große Ergebnisse kosten Eingabe-Tokens, filtern Sie mit allowed_tools. Daten an einen fremden MCP-Server verarbeitet dieser Dienst nach eigenen Bedingungen; prüfen Sie, wo er läuft.
Remote MCP servers: häufige Fragen
Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.
Verwandte Seiten
- ResponsesNutzen Sie das Format der OpenAI Responses API mit Open-Weight-Modellen auf inference.eu. Typisierte Ausgaben, eingebaute Werkzeuge, Verarbeitung in der EU.Endpunkte
- Tool callingLassen Sie offene Modelle Ihre Funktionen und APIs aufrufen, mit OpenAI-kompatiblem Tool Calling. Werkzeuge definieren, Schleife ausführen, in der EU.Anleitungen
- Web searchLassen Sie offene Modelle während einer Anfrage im Web suchen, mit dem web_search-Werkzeug der Responses API. Aktuelle Antworten mit Quellenangaben.Tools
- Code executionLassen Sie offene Modelle Python in einer Sandbox schreiben und ausführen, mit dem code_interpreter-Werkzeug der Responses API. Datenanalyse in der EU.Tools
Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur
Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.
- Antwort innerhalb eines Werktags
- Preise für Ihr Volumen
- AV-Vertrag unterschriftsreif