goose mit Open-Source-Modellen aus der EU nutzen

goose ist ein quelloffener, erweiterbarer KI-Agent, entstanden bei Block und heute offen unter der Agentic AI Foundation weiterentwickelt. Er läuft als Desktop-App und CLI und geht über Code-Vorschläge hinaus: Er installiert Pakete, führt Befehle aus, bearbeitet Dateien und prüft Ergebnisse. Erweiterungen auf Basis des Model Context Protocol verbinden ihn mit weiteren Werkzeugen und Diensten.

goose arbeitet mit vielen Modell-Providern. Über eigene Provider binden Sie jeden Dienst im Format von OpenAI, Anthropic oder Ollama ein, so auch inference.eu mit eigenem Namen, eigenen Modellen und eigenem Schlüssel.

Ein eigener Provider ist eine JSON-Datei in ~/.config/goose/custom_providers/, unter Windows in %APPDATA%\Block\goose\config\custom_providers\. engine wählt das API-Format, base_url ist die vollständige URL für Chat Completions, api_key_env nennt die Umgebungsvariable mit Ihrem Schlüssel, und models listet die Modell-IDs mit ihren Kontextgrenzen.

Desktop-App und goose configure schreiben dieselbe Datei für Sie und legen den Schlüssel im Schlüsselbund des Systems ab. Da die Datei kein Geheimnis enthält, können Sie sie im Team teilen oder in einem Konfigurations-Repository ablegen. Für eine schnelle Einrichtung ohne eigenen Provider akzeptiert auch der eingebaute OpenAI-Provider über OPENAI_HOST einen anderen Endpunkt.

goose steuert die Arbeit über Tool-Aufrufe an seine Erweiterungen. Verlässliches Tool-Calling zählt deshalb mehr als reine Modellgröße. kimi-k3 und glm-5.3 sind starke Allzweck-Agentenmodelle, die mehrstufige Aufgaben planen und Tools sinnvoll wählen. Für überwiegende Programmierarbeit eignet sich qwen3-coder-480b-a35b-instruct.

gpt-oss-120b antwortet schnell und passt zu leichteren Automatisierungen sowie zum Lead-Worker-Muster, bei dem ein stärkeres Modell plant und ein schnelleres Routineschritte erledigt. Setzen Sie für jedes Modell context_limit, damit goose lange Sitzungen steuern kann, ohne an die Grenze zu stoßen.

Meldet goose einen fehlenden Schlüssel, ist INFERENCE_EU_API_KEY in der Umgebung des goose-Prozesses nicht gesetzt und kein Schlüssel im Schlüsselbund hinterlegt. Ein 401 bedeutet einen falschen Schlüssel. Ein 404 heißt meist, dass base_url unvollständig ist: In der Provider-Datei muss sie die vollständige URL mit Endung /chat/completions sein.

„Model not found“ bedeutet, dass ein Modellname in der Datei von der ID bei inference.eu abweicht. Antwortet goose mit Text, statt Erweiterungen zu nutzen, wechseln Sie zu einem Modell mit zuverlässigem Tool-Calling wie Kimi K3, GLM-5.3 oder Qwen3 Coder. In goose configure lassen sich für eingebaute Provider keine eigenen Modellnamen eingeben; nutzen Sie dafür den eigenen Provider.

goose läuft auf Ihrem Rechner und sendet Modellanfragen an den gewählten Provider. Mit inference.eu werden Prompts, Dateien und Tool-Ausgaben in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, legen unsere Unterauftragsverarbeiter offen und rechnen in Euro ab.

Erweiterungen sind eigenständige Dienste: Ruft eine Erweiterung eine fremde API auf, gehen Daten dorthin, unabhängig vom Modell. Prüfen Sie, welche Erweiterungen aktiv sind, und legen Sie inference.eu als Standard-Provider fest, damit neue Sitzungen nicht bei einem anderen Provider beginnen.