POST /v1/messages
Messages API: Anfragen im Anthropic-Format, verarbeitet in der EU
Die inference.eu API versteht auch das Anthropic-Messages-Format. Werkzeuge und SDKs, die für Anthropic gebaut sind, darunter Coding-Agenten wie Claude Code, senden ihre Anfragen ohne Übersetzungsschicht an Open-Weight-Modelle in europäischen Rechenzentren. Anfragekörper, Header und Streaming-Events bleiben gleich; Sie ändern nur Basis-URL, Schlüssel und Modellnamen.
- 01API-Format: Anthropic Messages
- 02Rechenzentren in der EU
- 03Durch einen AV-Vertrag abgedeckt
curl https://api.inference.eu/v1/messages \
-H "x-api-key: $INFERENCE_EU_API_KEY" \
-H "anthropic-version: 2023-06-01" \
-H "Content-Type: application/json" \
-d '{
"model": "gpt-oss-120b",
"max_tokens": 1024,
"system": "You review pull requests for a Python codebase. Be specific and brief.",
"messages": [
{"role": "user", "content": "Is it safe to use a mutable default argument like def add(item, items=[])?"}
]
}'Was der Endpunkt leistet
POST /v1/messages erwartet eine Liste messages, die zwischen user und assistant abwechselt, dazu optional einen Systemprompt im Feld system, und liefert den nächsten Beitrag des Assistenten. Anders als im OpenAI-Format ist der Systemprompt keine Nachricht, sondern ein eigenes Feld, und max_tokens ist bei jeder Anfrage Pflicht.
Die Authentifizierung erfolgt über den Header x-api-key mit Ihrem inference.eu-Schlüssel; den Header anthropic-version nehmen wir so an, wie Anthropic-Clients ihn senden. Die offiziellen SDKs für Python und TypeScript funktionieren, sobald Sie die Basis-URL setzen. Diese SDKs hängen /v1/messages selbst an, geben Sie also den Host ohne /v1 an.
Content-Blöcke und Aufbau der Antwort
content kann ein String oder eine Liste von Blöcken sein: text, image (Base64 oder URL) für Vision-Modelle, tool_use und tool_result. Die Antwort ist ein Nachrichtenobjekt mit id, role: "assistant", dem model und einem Array content. Einfache Antworten bestehen aus einem text-Block, Reasoning-Modelle können einen thinking-Block voranstellen.
stop_reason lautet end_turn bei regulärem Abschluss, max_tokens bei Platzmangel, stop_sequence, wenn eine Ihrer stop_sequences erreicht wurde, und tool_use, wenn das Modell ein Werkzeug aufrufen möchte. usage meldet input_tokens und output_tokens.
Werkzeuge und Agenten im Anthropic-Format
Werkzeuge definieren Sie in einem Array tools, jeweils mit name, description und einem input_schema als JSON Schema. Will das Modell eines nutzen, endet die Antwort mit stop_reason: "tool_use" und enthält einen Block tool_use mit id und input. Sie führen das Werkzeug aus und senden eine user-Nachricht mit einem Block tool_result, der dieselbe tool_use_id nennt.
Genau diese Schleife durchlaufen Coding-Agenten ständig: Datei lesen, ändern, Tests ausführen. Richten Sie einen solchen Agenten auf inference.eu, bleibt Ihr Quellcode in europäischen Rechenzentren. Wählen Sie ein Modell, das lange Werkzeugketten zuverlässig abarbeitet, und setzen Sie max_tokens großzügig.
Fehler und Sonderfälle
Fehler folgen dem Anthropic-Schema {"type": "error", "error": {"type": "...", "message": "..."}} mit passendem HTTP-Status. Typisch sind invalid_request_error (400) bei fehlendem max_tokens oder falsch abwechselnden Nachrichten, authentication_error (401) bei falschem Schlüssel, not_found_error (404) bei unbekanntem Modell und rate_limit_error (429), wenn ein Limit Ihres Tarifs erreicht ist.
Anthropic-Modellnamen wie Claude stehen hier nicht zur Verfügung; senden Sie stattdessen eine offene Modell-ID. Die meisten Clients erlauben das über eine Umgebungsvariable oder Einstellung. Funktionen, die an Anthropics eigene Modelle gebunden sind, werden unter Umständen angenommen, bleiben aber ohne Wirkung.
Messages (Anthropic format): häufige Fragen
Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.
Verwandte Seiten
- Count tokensZählen Sie die Eingabe-Tokens einer Messages-Anfrage, bevor Sie sie senden. Anthropic-kompatibler Endpunkt count_tokens auf inference.eu, Verarbeitung in der EU.Endpunkte
- Tool callingLassen Sie offene Modelle Ihre Funktionen und APIs aufrufen, mit OpenAI-kompatiblem Tool Calling. Werkzeuge definieren, Schleife ausführen, in der EU.Anleitungen
- StreamingStreamen Sie Tokens offener Modelle während der Generierung, mit Server-Sent Events im OpenAI- und Anthropic-Format. Beispiele, Chunk-Format, Fehler.Anleitungen
- Chat completionsSenden Sie Chat-Nachrichten im OpenAI-Format an Open-Weight-Modelle. Verarbeitung in Rechenzentren in der EU, keine Nutzung Ihrer Daten für Training.Endpunkte
Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur
Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.
- Antwort innerhalb eines Werktags
- Preise für Ihr Volumen
- AV-Vertrag unterschriftsreif