inference.eu

Coding-Agenten · Grok CLI (Grok Build)

Die Grok CLI mit Open-Source-Modellen aus der EU nutzen

Grok Build, der Coding-Agent hinter dem Befehl `grok`, unterstützt eigene Modelle von jedem OpenAI- oder Anthropic-kompatiblen Endpunkt. Tragen Sie inference.eu als eigenes Modell in die config.toml ein, und der Agent arbeitet mit Open-Weight-Modellen, die in europäischen Rechenzentren verarbeitet werden.

  1. 01API-Format: OpenAI und Anthropic
  2. 02Rechenzentren in der EU
  3. 03Durch einen AV-Vertrag abgedeckt

In wenigen Minuten eingerichtet

  1. 1

    Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel und exportieren Sie ihn als INFERENCE_EU_API_KEY.

  2. 2

    Öffnen Sie ~/.grok/config.toml und legen Sie eine Tabelle [model.inference-eu] mit Modell-ID, Basis-URL von inference.eu, env_key und api_backend = "chat_completions" an.

  3. 3

    Setzen Sie unter [models] den Wert default auf inference-eu und richten Sie auch session_summary auf ein Modell von inference.eu aus.

  4. 4

    Prüfen Sie mit grok inspect, ob Grok die Konfiguration übernommen hat.

  5. 5

    Starten Sie grok in Ihrem Projekt oder testen Sie nicht interaktiv mit grok -p "Hallo" -m inference-eu.

~/.grok/config.toml
[model.inference-eu]
model = "qwen3-coder-480b-a35b-instruct"
base_url = "https://api.inference.eu/v1"
name = "Qwen3 Coder 480B (inference.eu)"
env_key = "INFERENCE_EU_API_KEY"
api_backend = "chat_completions"
supports_backend_search = false

[model.inference-eu-glm]
model = "glm-5.3"
base_url = "https://api.inference.eu/v1"
name = "GLM-5.3 (inference.eu)"
env_key = "INFERENCE_EU_API_KEY"
api_backend = "chat_completions"
supports_backend_search = false

[models]
default = "inference-eu"
session_summary = "inference-eu-glm"

Was die Grok CLI ist

Grok Build ist der Coding-Agent von xAI für das Terminal. Sie starten ihn mit grok für eine interaktive Vollbildsitzung, nutzen ihn mit grok -p in Skripten oder binden ihn über das Agent Client Protocol in andere Anwendungen ein. Er liest und bearbeitet Dateien, führt Befehle aus, nutzt MCP-Server, Skills und Hooks und verteilt Arbeit auf Subagenten.

Grok Build bringt die eigenen Modelle von xAI mit. Die Einstellungsreferenz beschreibt eigene Modelle aber als vollwertige Option: jeden Endpunkt, der OpenAI Chat Completions, die Responses API oder Anthropic Messages spricht. Auf diesem Weg binden Sie inference.eu an.

So funktioniert die Konfiguration

Eigene Modelle stehen in Ihrer Benutzerkonfiguration ~/.grok/config.toml. Jede Tabelle [model.<id>] beschreibt ein Modell: model ist die an die API gesendete ID, base_url die Basis-URL von inference.eu mit Endung /v1, env_key nennt die Variable mit Ihrem Schlüssel, und api_backend = "chat_completions" wählt das OpenAI-Format. name erscheint in der Modellauswahl.

Unter [models] legt default das Modell für neue Sitzungen fest. Für Sitzungszusammenfassungen, Bildbeschreibungen und Websuche nutzt Grok eigene Modelle. Setzen Sie session_summary auf ein Modell von inference.eu, damit auch diese Hintergrundaufrufe dorthin gehen. Projektdateien können keine Modelle festlegen, Schlüssel gelangen so nicht in Repositorys.

Welche Modelle sich eignen

Die Agentenschleife lebt von verlässlichen Tool-Aufrufen und davon, dass Anweisungen über viele Schritte befolgt werden. qwen3-coder-480b-a35b-instruct ist ein guter Standard für die tägliche Entwicklung, mit präzisen Änderungen und sicherem Werkzeugeinsatz. glm-5.3 und kimi-k3 eignen sich für Planung, größere Refactorings und Fehlersuche mit mehr Denkaufwand sowie für Sitzungszusammenfassungen.

gpt-oss-120b antwortet schnell und passt zu Subagenten, Skripten und kurzen Fragen. Setzen Sie context_window pro Modell passend, damit Grok den Verlauf zum richtigen Zeitpunkt verdichtet. Mit allowed_models unter [models] beschränken Sie die Auswahl auf Modelle von inference.eu.

Fehlerbehebung

Ein Fehler 401 bedeutet, dass der Schlüssel den Endpunkt nicht erreicht hat. Prüfen Sie, ob INFERENCE_EU_API_KEY in der Shell exportiert ist, aus der Sie grok starten, und ob env_key genau diese Variable nennt. Ein 404 entsteht meist durch einen zusätzlichen Pfad in base_url oder ein api_backend, das nicht zur URL passt.

Scheitern Tool-Aufrufe oder kommen sie unvollständig an, setzen Sie stream_tool_calls = false am Modell; manche eigenen Endpunkte brauchen das. Bei Fehlern der Websuche muss supports_backend_search auf false bleiben, da die bei xAI gehosteten Suchwerkzeuge nicht auf anderen Endpunkten laufen. grok inspect zeigt, welche Dateien und Modelle Grok tatsächlich geladen hat.

Code und Daten bleiben in der EU

Mit inference.eu als Modell werden die Dateien, Diffs und Befehlsausgaben, die Grok an das Modell sendet, in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab.

Grok Build ist ein Produkt von xAI, und ein Teil des Verkehrs kann weiterhin dorthin gehen: die Anmeldung beim ersten Start, die bei xAI gehostete Websuche und jede Hintergrundaufgabe, die noch einem Grok-Modell zugeordnet ist. Richten Sie session_summary und image_description auf inference.eu aus, lassen Sie supports_backend_search = false und begrenzen Sie allowed_models.

Grok CLI (Grok Build): häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif