--- title: "Hermes Agent mit KI-Modellen aus der EU einrichten" description: "So betreiben Sie Hermes Agent von Nous Research mit Open-Weight-Modellen aus EU-Rechenzentren, über einen eigenen OpenAI-kompatiblen Endpunkt in config.yaml." canonical: "https://inference.eu/de/integrationen/hermes-agent/" language: "de" --- Agenten · Hermes Agent # Hermes Agent mit Open-Source-Modellen aus der EU nutzen Hermes Agent von Nous Research ist ein quelloffener Agent für Terminal, Editoren und Messenger, der mit der Zeit Erinnerungen und Fähigkeiten aufbaut. Er läuft mit jedem OpenAI-kompatiblen Endpunkt. Richten Sie ihn auf inference.eu aus, und seine Arbeit läuft auf Open-Weight-Modellen in europäischen Rechenzentren. [Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Einrichtung](#setup) 1. 01API-Format: OpenAI 2. 02Rechenzentren in der EU 3. 03Durch einen AV-Vertrag abgedeckt ## In wenigen Minuten eingerichtet 1. 1 Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel und tragen Sie `INFERENCE_EU_API_KEY=` in `~/.hermes/.env` ein. 2. 2 Führen Sie `hermes model` aus und wählen Sie Custom endpoint, oder bearbeiten Sie `~/.hermes/config.yaml` direkt. 3. 3 Setzen Sie `provider` auf `custom`, `base_url` auf die Basis-URL von inference.eu und `key_env` auf `INFERENCE_EU_API_KEY`. 4. 4 Setzen Sie `default` auf die gewünschte Modell-ID, etwa `kimi-k3`. 5. 5 Starten Sie `hermes` und geben Sie eine kleine Aufgabe, um Antworten und Tool-Aufrufe zu prüfen. ~/.hermes/config.yaml ``` model: provider: custom default: kimi-k3 base_url: https://api.inference.eu/v1 key_env: INFERENCE_EU_API_KEY ``` ## Was Hermes Agent ist Hermes Agent ist ein quelloffener KI-Agent von Nous Research. Er läuft im Terminal, verbindet sich mit Editoren und Messaging-Plattformen, plant wiederkehrende Aufgaben und bewahrt Erinnerungen und Fähigkeiten, die sich mit der Zusammenarbeit verbessern. Hilfsaufgaben wie Kontextverdichtung, Bildverarbeitung und Sitzungstitel können jeweils ein eigenes Modell nutzen. Hermes ist bewusst anbieterunabhängig. Neben den eingebauten Providern arbeitet er mit jedem Endpunkt, der `/v1/chat/completions` bereitstellt. Damit lässt er sich unkompliziert mit Open-Weight-Modellen bei inference.eu betreiben. ## So funktioniert die Konfiguration Die Modelleinstellungen stehen in `~/.hermes/config.yaml` unter `model`. Mit `provider: custom` sendet Hermes Anfragen an `base_url`, hier die Basis-URL von inference.eu mit Endung `/v1`. `key_env` nennt die Umgebungsvariable mit Ihrem Schlüssel, die Hermes aus der Shell oder aus `~/.hermes/.env` liest. `default` ist die Modell-ID für neue Sitzungen. Der interaktive Befehl `hermes model` schreibt dieselben Einstellungen, wenn Sie Custom endpoint wählen. Hermes bindet jeden Schlüssel an seine eigene Basis-URL, Ihr inference.eu-Schlüssel geht also nur an inference.eu. Auch Hilfsaufgaben lassen sich im Abschnitt `auxiliary` mit eigener `base_url` und eigenem Modell auf inference.eu ausrichten. ## Welche Modelle sich eignen Hermes plant, ruft Tools auf und führt ein Langzeitgedächtnis. Davon profitieren Modelle mit Stärken bei agentischer Arbeit. `kimi-k3` und `glm-5.3` sind gute Standards für das Hauptmodell: Sie denken mehrstufige Aufgaben gut durch und liefern saubere Tool-Aufrufe. Für Agentensitzungen, die vor allem Code schreiben oder prüfen, ist `qwen3-coder-480b-a35b-instruct` eine starke Wahl. Für Hilfsaufgaben wie Verdichtung und Titel hält ein schnelles Modell wie `gpt-oss-120b` Kosten und Wartezeit gering. Wenn Sie auch diese Aufgaben auf inference.eu legen, weicht kein Teil einer Sitzung auf einen anderen Provider aus. ## Fehlerbehebung Ein Fehler 401 bedeutet, dass der Schlüssel Hermes nicht erreicht hat. Prüfen Sie, ob `INFERENCE_EU_API_KEY` in `~/.hermes/.env` oder in der Shell gesetzt ist und `key_env` genau diese Variable nennt. Ein 404 entsteht meist durch einen zusätzlichen Pfad in `base_url`; die URL muss auf `/v1` enden. Beachten Sie, dass `OPENAI_BASE_URL` nur den Provider `openai-api` betrifft, nicht einen eigenen Endpunkt. Setzen Sie die URL daher in der config.yaml. „Model not found“ heißt, dass `default` nicht der ID bei inference.eu entspricht. Scheitern Hilfsaufgaben, während das Hauptmodell funktioniert, zeigen sie noch auf einen anderen Provider. ## Code und Daten bleiben in der EU Mit inference.eu als eigenem Endpunkt werden Prompts, Dateien, Auszüge aus dem Gedächtnis und Tool-Ausgaben, die Hermes pro Schritt sendet, in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, legen unsere Unterauftragsverarbeiter offen und rechnen in Euro ab. Hermes kann sich außerdem mit Messaging-Plattformen und externen Tools verbinden. Das sind eigenständige Dienste mit eigener Datenverarbeitung. Richten Sie Hauptmodell und alle Hilfsaufgaben auf inference.eu aus und prüfen Sie, welche Gateways und Tools Sie aktivieren, damit der Modellverkehr bei einem Auftragsverarbeiter in der EU bleibt. ## Hermes Agent Kategorie Agenten Anbieter Nous Research API-Format OpenAI Verarbeitung Rechenzentren in der EU Website [hermes-agent.nousresearch.com](https://hermes-agent.nousresearch.com/) Dokumentation [hermes-agent.nousresearch.com](https://hermes-agent.nousresearch.com/docs/integrations/providers) ## Hermes Agent: häufige Fragen Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt. Ja. Hermes arbeitet mit jedem Endpunkt, der \`/v1/chat/completions\` bereitstellt. Führen Sie \`hermes model\` aus und wählen Sie Custom endpoint, oder setzen Sie \`provider: custom\`, \`base\_url\` und \`key\_env\` unter \`model\` in \`~/.hermes/config.yaml\`. Kimi K3 und GLM-5.3 sind gute Standards für das Hauptmodell, weil sie mehrstufige Planung und Tool-Aufrufe gut beherrschen. Qwen3 Coder 480B passt zu codelastigen Sitzungen, gpt-oss-120b ist eine schnelle Wahl für Hilfsaufgaben. Hermes berücksichtigt \`OPENAI\_BASE\_URL\` nur für den Provider \`openai-api\`. Für einen eigenen Endpunkt muss die URL als \`model.base\_url\` in der config.yaml stehen oder über \`hermes model\` gesetzt werden. So bleiben Schlüssel und Endpunkte eindeutig verknüpft. Tragen Sie \`INFERENCE\_EU\_API\_KEY=...\` in \`~/.hermes/.env\` ein und verweisen Sie in der config.yaml mit \`key\_env: INFERENCE\_EU\_API\_KEY\` darauf. Sie können \`api\_key\` auch direkt in die config.yaml schreiben, die Variante mit der env-Datei verhindert aber, dass Geheimnisse eingecheckt werden. Nein. Hermes bindet den Schlüssel jedes Providers an dessen eigene Basis-URL. Der in \`key\_env\` genannte Schlüssel Ihres eigenen Endpunkts geht also nur an inference.eu, Schlüssel anderer Provider nur an deren Hosts. Ja. Geben Sie Aufgaben wie Verdichtung, Bildverarbeitung oder Titelerzeugung im Abschnitt \`auxiliary\` der config.yaml eine \`base\_url\` und ein Modell bei inference.eu. Andernfalls nutzen sie womöglich einen anderen Provider als Ihr Hauptmodell. Der Schlüssel fehlt, ist falsch oder steht in einer anderen Variablen als der, die \`key\_env\` nennt. Prüfen Sie \`~/.hermes/.env\`, starten Sie Hermes nach Änderungen neu und stellen Sie sicher, dass der Schlüssel in Ihrem inference.eu-Konto aktiv ist. Ja. Der Modell-Provider ist unabhängig davon, wo Sie mit Hermes sprechen. Ob Terminal, Editor oder Messaging-Gateway, Modellanfragen gehen an den Endpunkt aus der config.yaml. Die Messaging-Plattform selbst verarbeitet Ihre Nachrichten nach ihren eigenen Bedingungen. Ja. Wechseln Sie das Modell mit \`hermes model\` oder den Modellbefehlen von Hermes und behalten Sie denselben eigenen Endpunkt. Jede Modell-ID, die inference.eu anbietet, lässt sich nutzen. So vergleichen Sie Modelle an derselben Aufgabe. Modellanfragen werden in EU-Rechenzentren verarbeitet, nie zum Training verwendet und sind durch einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO mit veröffentlichter Liste der Unterauftragsverarbeiter abgedeckt. Prüfen Sie die verbundenen Gateways und Tools, da jedes Daten nach eigenen Bedingungen verarbeitet. [Frage stellen](https://inference.eu/de/kontakt/) ## Verwandte Seiten [Alle Integrationen](https://inference.eu/de/integrationen/) - [OpenClawBetreiben Sie den Assistenten OpenClaw mit Open-Weight-Modellen aus EU-Rechenzentren, indem Sie inference.eu als eigenen Provider in openclaw.json eintragen.Agenten](https://inference.eu/de/integrationen/openclaw/) - [gooseSo fügen Sie inference.eu als eigenen OpenAI-kompatiblen Provider in goose Desktop oder der CLI hinzu und nutzen Open-Weight-Modelle aus der EU.Agenten](https://inference.eu/de/integrationen/goose/) - [PiTragen Sie inference.eu in die models.json von Pi ein und betreiben Sie den schlanken Coding-Agenten mit Open-Weight-Modellen aus EU-Rechenzentren.Coding-Agenten](https://inference.eu/de/integrationen/pi/) ## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten. - Antwort innerhalb eines Werktags - Preise für Ihr Volumen - AV-Vertrag unterschriftsreif