Claude Code mit Open-Source-Modellen aus der EU nutzen

Claude Code ist das agentische Coding-Werkzeug von Anthropic. Es läuft im Terminal, in VS Code und JetBrains sowie als Desktop-App, liest Ihr Repository, bearbeitet Dateien, führt Befehle aus und erledigt mehrstufige Aufgaben mit Sub-Agenten. Standardmäßig spricht es mit der API von Anthropic, ist aber für den Betrieb hinter einem LLM-Gateway ausgelegt: Endpunkt und Zugangsdaten kommen aus Umgebungsvariablen oder dem Block env einer Einstellungsdatei.

Da inference.eu die Anthropic-Messages-API umsetzt, braucht Claude Code weder Patch noch Fork noch Proxy. Sie ändern nur das Ziel der Anfragen, nicht Ihre Arbeitsweise.

ANTHROPIC_BASE_URL legt fest, wohin Claude Code Anfragen schickt. Da Claude Code /v1/messages selbst anhängt, muss der Wert der Host ohne /v1 sein; das Beispiel entfernt die Endung automatisch. ANTHROPIC_AUTH_TOKEN sendet Ihren Schlüssel als Authorization: Bearer.

Claude Code fragt Modelle nach Stufen an: opus, sonnet und haiku sowie ein Hauptmodell. Belegen Sie ANTHROPIC_MODEL und die drei Variablen ANTHROPIC_DEFAULT_*_MODEL mit IDs von inference.eu, damit jede Anfrage einschließlich Hintergrundaufgaben wie Sitzungstiteln ein von Ihnen gewähltes Modell nutzt. Sollen die Werte überall gelten, auch in der VS-Code-Erweiterung, tragen Sie sie in den Block env von ~/.claude/settings.json ein.

Claude Code arbeitet in langen Agentenschleifen mit vielen Tool-Aufrufen. Wählen Sie daher Modelle, die Tool-Schemas genau einhalten. glm-5.3 und kimi-k3 eignen sich als Hauptmodell und für die Opus-Stufe, also für Planung und größere Refactorings. qwen3-coder-480b-a35b-instruct passt gut auf die Sonnet-Stufe für alltägliche Änderungen und Tests.

Die Haiku-Stufe übernimmt kurze Hintergrundaufrufe, dafür ist ein schnelles Modell wie gpt-oss-120b richtig. Bleibt sie leer, fragt Claude Code nach einem Claude-Modellnamen, den wir nicht anbieten. Probieren Sie Kombinationen an einer echten Aufgabe aus und behalten Sie diejenige, die mit den wenigsten Korrekturen auskommt.

Ein 404 bei jeder Anfrage bedeutet meist, dass ANTHROPIC_BASE_URL noch auf /v1 endet und Anfragen an /v1/v1/messages gehen. Entfernen Sie die Endung. Ein 401 heißt, dass der Schlüssel fehlt oder im falschen Header steckt: Prüfen Sie ANTHROPIC_AUTH_TOKEN, leeren Sie ANTHROPIC_API_KEY und melden Sie sich von claude.ai ab.

Zeigt /status nicht den Host von inference.eu, haben die Variablen den Prozess nicht erreicht. Setzen Sie sie in der startenden Shell oder in ~/.claude/settings.json. „Model not found“ heißt, dass eine Stufe noch auf einen Claude-Namen zeigt. Fehler zu thinking oder unbekannten Tool-Typen betreffen Claude-spezifische Funktionen; ein Update und fest zugewiesene Modelle beheben die meisten.

Mit diesen Einstellungen gehen Modellanfragen mit Ihren Prompts, Dateiinhalten und Befehlsausgaben an inference.eu. Dort werden sie in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, legen unsere Unterauftragsverarbeiter offen und rechnen in Euro ab.

Claude Code sendet zusätzlich Datenverkehr außerhalb der Modellanfragen, etwa Versionsprüfungen und Telemetrie. CLAUDE_CODE_DISABLE_NONESSENTIAL_TRAFFIC=1 schaltet ihn ab. Funktionen, die eine claude.ai-Identität brauchen, darunter Remote Control, Spracheingabe und bei Anthropic gehostete Cloud-Sitzungen, stehen mit Gateway-Token nicht zur Verfügung. Administratoren können den Endpunkt über verwaltete Einstellungen für alle festlegen.