---
title: "Mastra mit KI-Modellen aus der EU einrichten"
description: "Richten Sie Mastra-Agenten und Workflows über eine eigene Modell-URL auf inference.eu aus und betreiben Sie sie mit Open-Weight-Modellen aus der EU."
canonical: "https://inference.eu/de/integrationen/mastra/"
language: "de"
---

Frameworks · Mastra

# Mastra mit Open-Source-Modellen aus der EU nutzen

Mastra ist ein TypeScript-Framework für KI-Agenten, Workflows und RAG-Pipelines. Sein Modell-Router akzeptiert über die Einstellung \`url\` jeden OpenAI-kompatiblen Endpunkt. So laufen Ihre Agenten auf Open-Weight-Modellen bei inference.eu, verarbeitet in europäischen Rechenzentren.

[Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Einrichtung](#setup)

1.  01API-Format: OpenAI
2.  02Rechenzentren in der EU
3.  03Durch einen AV-Vertrag abgedeckt

## In wenigen Minuten eingerichtet

1.  1

    Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel und tragen Sie `INFERENCE_EU_API_KEY` in die `.env`\-Datei Ihres Projekts ein.

2.  2

    Setzen Sie in der Agentendefinition `model` auf ein Objekt mit `id`, `url` und `apiKey` statt auf einen Modellnamen.

3.  3

    Verwenden Sie `inference-eu/` plus Modell-ID als `id`, die Basis-URL von inference.eu als `url` und `process.env.INFERENCE_EU_API_KEY` als `apiKey`.

4.  4

    Registrieren Sie den Agenten wie gewohnt in Ihrer `Mastra`\-Instanz.

5.  5

    Starten Sie `mastra dev` und senden Sie dem Agenten in Studio eine Nachricht, um die Verbindung zu prüfen.

src/mastra/agents/support-agent.ts

```
import { Agent } from "@mastra/core/agent";

export const supportAgent = new Agent({
  id: "support-agent",
  name: "Support agent",
  instructions: "You answer customer questions using the tools provided.",
  model: {
    id: "inference-eu/kimi-k3",
    url: "https://api.inference.eu/v1",
    apiKey: process.env.INFERENCE_EU_API_KEY,
  },
});
```

## Was Mastra ist

Mastra ist ein quelloffenes TypeScript-Framework vom Team hinter Gatsby. Es bietet Agenten mit Tools und Gedächtnis, graphbasierte Workflows mit Pausieren und Fortsetzen, RAG-Bausteine, Evaluierungen und ein lokales Studio zum Testen. Mastra-Anwendungen laufen in Node.js und lassen sich auf Servern, Serverless-Plattformen oder in bestehenden Web-Frameworks betreiben.

Modelle wählen Sie über den Modell-Router von Mastra. Neben den eingebauten Anbietern akzeptiert er einen eigenen OpenAI-kompatiblen Endpunkt, wenn Sie `url` zusammen mit der Modell-ID übergeben. Das ist der dokumentierte Weg zu einem Dienst wie inference.eu.

## So funktioniert die Konfiguration

Setzen Sie `model` statt auf einen String wie `"openai/..."` auf ein Objekt. `id` hat die Form `provider/model`; mit `inference-eu/kimi-k3` sendet Mastra die reine Modell-ID `kimi-k3` an den Endpunkt. `url` ist die Basis-URL von inference.eu mit Endung `/v1`, nie der vollständige Pfad zu Chat Completions. `apiKey` wird als Bearer-Token gesendet.

Eigene URLs nutzen standardmäßig die Chat Completions API, genau richtig für inference.eu. Alternativ erzeugen Sie mit `createOpenAICompatible` aus dem AI SDK einen Provider und übergeben das Modell dem Agenten. Mastra akzeptiert AI-SDK-Modelle direkt.

## Welche Modelle sich eignen

Mastra-Agenten rufen Tools auf und laufen oft in mehrstufigen Workflows. Am besten arbeiten daher Modelle mit verlässlichen Tool-Aufrufen. `kimi-k3` und `glm-5.3` sind gute Standards für Support-, Recherche- und Betriebsagenten, die planen und mehrere Tools nutzen.

Für Agenten, die Code schreiben oder prüfen, nutzen Sie `qwen3-coder-480b-a35b-instruct`. Für schnelle Klassifizierung, Routing oder strukturierte Extraktion innerhalb eines Workflows hält `gpt-oss-120b` die Wartezeit gering. Jeder Agent und jeder Workflow-Schritt kann ein eigenes Modell nutzen. Über die Ausweichmodelle von Mastra hinterlegen Sie ein zweites Modell von inference.eu für den Fall eines Fehlers.

## Fehlerbehebung

Ein Fehler 401 bedeutet, dass `INFERENCE_EU_API_KEY` dort fehlt, wo der Agent läuft. Prüfen Sie lokal die `.env`\-Datei und im Deployment die Umgebungseinstellungen. Ein 404 entsteht meist, wenn `url` den Pfad `/chat/completions` oder einen anderen Zusatz enthält. Verwenden Sie die Basis-URL mit Endung `/v1`.

„Model not found“ bedeutet, dass der Teil von `id` nach `inference-eu/` nicht der Modell-ID bei inference.eu entspricht. Scheitert die strukturierte Ausgabe, vereinfachen Sie das Zod-Schema. Ignoriert ein Agent seine Tools, wählen Sie ein Modell mit stärkeren Tool-Aufrufen. Setzen Sie für inference.eu nicht `api: "responses"`, sondern behalten Sie den Standardweg über Chat Completions.

## Daten bleiben in der EU

Ist das Modell auf inference.eu ausgerichtet, werden die Nachrichten, Gedächtnisauszüge und Tool-Ergebnisse Ihrer Agenten in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab.

Mastra selbst ruft nur die konfigurierten Dienste auf. Gedächtnisspeicher, Vektordatenbanken und Observability-Exporter halten ebenfalls Daten. Wählen Sie dafür in der EU gehostete oder selbst betriebene Lösungen. Betreiben Sie Ihren Mastra-Server in einer EU-Region, damit Anfragen nicht vorher anderswo verarbeitet werden, bevor sie inference.eu erreichen.

## Mastra

Kategorie

Frameworks

Anbieter

Mastra

API-Format

OpenAI

Verarbeitung

Rechenzentren in der EU

Website

[mastra.ai](https://mastra.ai/)

Dokumentation

[mastra.ai](https://mastra.ai/models)

## Mastra: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Setzen Sie \`model\` des Agenten auf ein Objekt mit \`id\`, \`url\` und \`apiKey\`. \`url\` ist die Basis-URL des Endpunkts mit Endung \`/v1\`, \`id\` hat die Form \`provider/model\`. Mastra sendet die Anfragen dann über seinen Modell-Router an diesen Endpunkt.

Verwenden Sie \`inference-eu/\` gefolgt von der Modell-ID bei inference.eu, etwa \`inference-eu/kimi-k3\`. Mastra behandelt den ersten Teil als Namen des Providers und sendet nur die reine Modell-ID \`kimi-k3\` an den Endpunkt von inference.eu.

Kimi K3 und GLM-5.3 sind gute Standards für Agenten, die planen und mehrere Tools aufrufen. Qwen3 Coder 480B passt zu Coding-Agenten, gpt-oss-120b ist eine schnelle Wahl für Klassifizierung und Routing-Schritte in Workflows.

\`url\` muss die Basis-URL sein, nicht ein einzelner Endpunkt. Entfernen Sie \`/chat/completions\` oder andere Pfade, sodass die URL auf \`/v1\` endet; Mastra hängt den Pfad selbst an. Prüfen Sie danach, ob die Modell-ID stimmt.

Ja. Mastra akzeptiert Modelle aus dem AI SDK ohne Umweg. Erzeugen Sie mit \`createOpenAICompatible\` einen Provider für inference.eu und übergeben Sie \`inferenceEu("kimi-k3")\` als Modell des Agenten. Beide Wege senden dieselben Anfragen an denselben Endpunkt.

Ja. Workflow-Schritte, die Agenten aufrufen, nutzen das jeweils konfigurierte Modell. Sie können jedem Agenten ein eigenes Modell von inference.eu geben, etwa ein schnelles für Routing-Schritte und ein stärkeres für Schritte mit viel Schlussfolgern.

Ja. Übergeben Sie beim Aufruf des Agenten ein Zod-Schema als Option für strukturierte Ausgabe, Mastra validiert das Ergebnis. Halten Sie Schemas einfach und testen Sie sie mit dem gewählten Modell, da die Einhaltung je nach Modell unterschiedlich ausfällt.

Ja. In Mastra kann ein Agent mehrere Modelle in fester Reihenfolge auflisten. Nutzen Sie zwei Modelle von inference.eu, etwa Kimi K3 und danach GLM-5.3. So wird eine gescheiterte Anfrage mit einem anderen Modell wiederholt, ohne die EU zu verlassen.

Das Gedächtnis liegt im konfigurierten Speicheradapter, etwa PostgreSQL oder LibSQL. Hosten Sie diese Datenbank in der EU und wählen Sie bei semantischer Suche einen in der EU gehosteten Embedder, damit gespeicherte Unterhaltungen in Europa bleiben.

Dem Deployment fehlt \`INFERENCE\_EU\_API\_KEY\`. Tragen Sie die Variable in den Umgebungseinstellungen Ihrer Hosting-Plattform ein, deployen Sie neu und stellen Sie sicher, dass der Agent sie über \`process.env.INFERENCE\_EU\_API\_KEY\` liest und nicht einen fest eingetragenen Wert nutzt.

[Frage stellen](https://inference.eu/de/kontakt/)

## Verwandte Seiten

[Alle Integrationen](https://inference.eu/de/integrationen/)

-   [Vercel AI SDKNutzen Sie den OpenAI-kompatiblen Provider des Vercel AI SDK für Open-Weight-Modelle aus EU-Rechenzentren in Next.js-, Node.js- und Edge-Anwendungen.SDKs](https://inference.eu/de/integrationen/vercel-ai-sdk/)
-   [OpenAI SDK (Python and JavaScript)Richten Sie das offizielle OpenAI-SDK für Python oder JavaScript per base\_url auf inference.eu aus und nutzen Sie Open-Weight-Modelle aus der EU.SDKs](https://inference.eu/de/integrationen/openai-sdk/)
-   [Pydantic AIVerbinden Sie Pydantic-AI-Agenten über OpenAICompatibleProvider mit inference.eu und erhalten Sie typisierte Ausgaben von Open-Weight-Modellen aus der EU.Frameworks](https://inference.eu/de/integrationen/pydantic-ai/)

## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

-   Antwort innerhalb eines Werktags
-   Preise für Ihr Volumen
-   AV-Vertrag unterschriftsreif