---
title: "Vercel AI SDK mit KI-Modellen aus der EU einrichten"
description: "Nutzen Sie den OpenAI-kompatiblen Provider des Vercel AI SDK für Open-Weight-Modelle aus EU-Rechenzentren in Next.js-, Node.js- und Edge-Anwendungen."
canonical: "https://inference.eu/de/integrationen/vercel-ai-sdk/"
language: "de"
---

SDKs · Vercel AI SDK

# Das Vercel AI SDK mit Open-Source-Modellen aus der EU nutzen

Das Vercel AI SDK ist ein TypeScript-Werkzeugkasten für KI-Funktionen in Webanwendungen und Back-Ends. Sein OpenAI-kompatibler Provider verbindet sich in wenigen Zeilen mit inference.eu. \`generateText\`, \`streamText\`, Tools und strukturierte Ausgaben laufen dann auf Open-Weight-Modellen in europäischen Rechenzentren.

[Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Einrichtung](#setup)

1.  01API-Format: OpenAI
2.  02Rechenzentren in der EU
3.  03Durch einen AV-Vertrag abgedeckt

## In wenigen Minuten eingerichtet

1.  1

    Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel und tragen Sie `INFERENCE_EU_API_KEY` in Ihre Serverumgebung ein, etwa in `.env.local`.

2.  2

    Installieren Sie die Pakete mit `npm install ai @ai-sdk/openai-compatible`.

3.  3

    Erzeugen Sie mit `createOpenAICompatible` einen Provider mit `name`, `baseURL` auf der Basis-URL von inference.eu, `apiKey` und `includeUsage`.

4.  4

    Übergeben Sie `inferenceEu("<Modell-ID>")` als `model` an `generateText`, `streamText` oder `generateObject`.

5.  5

    Prüfen Sie die Verbindung mit einer kurzen Anfrage auf dem Server, bevor Sie sie in Ihre Oberfläche einbinden.

lib/inference-eu.ts

```
import { createOpenAICompatible } from "@ai-sdk/openai-compatible";
import { generateText } from "ai";

export const inferenceEu = createOpenAICompatible({
  name: "inference-eu",
  baseURL: "https://api.inference.eu/v1",
  apiKey: process.env.INFERENCE_EU_API_KEY,
  includeUsage: true,
});

const { text } = await generateText({
  model: inferenceEu("gpt-oss-120b"),
  prompt: "Summarise GDPR Article 28 in two sentences.",
});
console.log(text);
```

## Was das Vercel AI SDK ist

Das AI SDK ist eine quelloffene TypeScript-Bibliothek von Vercel. Sie bietet eine einheitliche API für Textgenerierung, Streaming, Tool-Aufrufe, strukturierte Ausgaben und Agenten über viele Modellanbieter hinweg, dazu UI-Hooks wie `useChat` für React, Svelte und Vue. Sie läuft in Node.js, Serverless-Funktionen und Edge-Laufzeiten.

Provider sind eigene Pakete. Das Paket `@ai-sdk/openai-compatible` funktioniert mit jeder API im OpenAI-Format und ist der empfohlene Weg zu inference.eu. Die Aufrufe des AI SDK bleiben gleich, Sie tauschen nur die Provider-Instanz.

## So funktioniert die Konfiguration

`createOpenAICompatible` liefert eine Provider-Funktion. `name` kennzeichnet sie in Fehlermeldungen und Telemetrie, `baseURL` ist die Basis-URL von inference.eu mit Endung `/v1`, und `apiKey` wird als Bearer-Token gesendet. `includeUsage: true` fordert Token-Angaben in gestreamten Antworten an, damit `usage` nach `streamText` gefüllt ist.

Rufen Sie den Provider mit einer Modell-ID auf, etwa `inferenceEu("qwen3-coder-480b-a35b-instruct")`. Legen Sie den Provider in ein reines Servermodul, denn der Schlüssel darf nie in den Browser gelangen. Route Handler, Server Actions und API-Routen importieren ihn und streamen Ergebnisse über `useChat` oder Ihre eigene Oberfläche an den Client.

## Welche Modelle sich eignen

Für Chat-Funktionen, Zusammenfassungen und Extraktion ist `gpt-oss-120b` ein schneller Standard, der das Streaming in der Oberfläche flüssig hält. Für Agenten mit Tools und `stopWhen` wählen Sie ein Modell mit verlässlichen Tool-Aufrufen wie `qwen3-coder-480b-a35b-instruct`, `glm-5.3` oder `kimi-k3`.

`glm-5.3` und `kimi-k3` eignen sich auch für lange Dokumente und mehrstufiges Schlussfolgern. Wenn Sie `generateObject` mit einem Zod-Schema nutzen, setzen Sie `supportsStructuredOutputs: true` erst, nachdem Sie geprüft haben, dass das Modell verlässlich gültiges JSON liefert. Andernfalls gibt das SDK dem Modell Anweisungen und validiert das Ergebnis selbst.

## Fehlerbehebung

Ein Fehler 401 bedeutet, dass `INFERENCE_EU_API_KEY` in der Laufzeitumgebung des Aufrufs fehlt. Serverless- und Edge-Deployments brauchen die Variable in der Hosting-Umgebung, nicht nur in `.env.local`. Ein 404 entsteht meist durch einen zusätzlichen Pfad in `baseURL`.

„Model not found“ bedeutet, dass die übergebene ID von der ID bei inference.eu abweicht. Ist `usage` nach dem Streaming leer, ergänzen Sie `includeUsage: true`. Werden Tool-Aufrufe ignoriert, prüfen Sie die Tool-Unterstützung des Modells. Nutzen Sie dafür nicht das Paket `@ai-sdk/openai`: Es zielt standardmäßig auf die Responses API von OpenAI, der kompatible Provider dagegen auf Chat Completions.

## Daten bleiben in der EU

Ist der Provider auf inference.eu ausgerichtet, wird jeder Prompt und jede Antwort Ihrer Anwendung in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab.

Das AI SDK selbst ruft nur den konfigurierten Provider auf. Auch Ihre Hosting-Region spielt eine Rolle: Betreiben Sie Route Handler und Funktionen in einer EU-Region, damit Prompts nicht vorher auf Servern außerhalb Europas verarbeitet werden. Wenn Sie Telemetrie über OpenTelemetry aktivieren, prüfen Sie, wo Ihr Tracing-Backend Prompt- und Antwortattribute speichert.

## Vercel AI SDK

Kategorie

SDKs

Anbieter

Vercel

API-Format

OpenAI

Verarbeitung

Rechenzentren in der EU

Website

[ai-sdk.dev](https://ai-sdk.dev/)

Dokumentation

[ai-sdk.dev](https://ai-sdk.dev/providers/openai-compatible-providers)

## Vercel AI SDK: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Installieren Sie \`@ai-sdk/openai-compatible\` und rufen Sie \`createOpenAICompatible\` mit \`name\`, \`baseURL\` und \`apiKey\` auf. Die zurückgegebene Funktion erzeugt Modelle anhand der ID, die Sie an \`generateText\`, \`streamText\` oder jeden anderen Aufruf des AI SDK übergeben.

Nehmen Sie \`@ai-sdk/openai-compatible\`. Es spricht Chat Completions, das inference.eu für alle Modelle anbietet. Der Provider \`@ai-sdk/openai\` ist auf die eigene Plattform von OpenAI zugeschnitten und nutzt standardmäßig die Responses API, ein anderes Anfrageformat.

Nutzen Sie \`gpt-oss-120b\` für schnellen Chat und Extraktion, \`qwen3-coder-480b-a35b-instruct\` für Code und Agenten mit vielen Tools sowie \`glm-5.3\` oder \`kimi-k3\` für lange Dokumente und mehrstufiges Schlussfolgern. Der Modellwechsel ist eine einzige Zeile.

Ja. \`streamText\` streamt Tokens von inference.eu wie gewohnt, und \`toUIMessageStreamResponse\` leitet sie an \`useChat\` weiter. Setzen Sie \`includeUsage: true\` am Provider, damit die Token-Angaben nach dem Ende des Streams verfügbar sind.

Ja. Definieren Sie Tools mit Zod-Schemas, übergeben Sie sie an \`generateText\` oder \`streamText\` und nutzen Sie \`stopWhen\` für mehrstufige Schleifen. Wählen Sie ein Modell mit verlässlichen Tool-Aufrufen, etwa Qwen3 Coder 480B, GLM-5.3 oder Kimi K3.

Ja. Das SDK sendet Ihr Schema und validiert die Antwort. Setzen Sie \`supportsStructuredOutputs: true\` am Provider erst, wenn Sie geprüft haben, dass das gewählte Modell JSON-Schemas verlässlich einhält. Dann kann das SDK native strukturierte Ausgaben nutzen.

Der Laufzeitumgebung nach dem Deployment fehlt \`INFERENCE\_EU\_API\_KEY\`. Tragen Sie die Variable für jede Umgebung in den Einstellungen Ihres Hosting-Projekts ein, deployen Sie neu und stellen Sie sicher, dass das Providermodul auf dem Server läuft, nicht im Browser.

Ja. Der kompatible Provider nutzt die Standard-API \`fetch\` und läuft in Edge-Laufzeiten. Wählen Sie, soweit Ihre Plattform es erlaubt, eine EU-Region für die Funktion. So werden Anfragen schon in Europa verarbeitet, bevor sie inference.eu erreichen.

Ja, und das sollten Sie. Erzeugen Sie den Provider in einem reinen Servermodul und rufen Sie ihn aus Route Handlern oder Server Actions auf. Der Client nutzt \`useChat\` gegen Ihren eigenen Endpunkt und sieht den Schlüssel für inference.eu nie.

Nein. Das SDK ist eine Bibliothek, die den konfigurierten Provider direkt aufruft. Prompts gehen nur dann woandershin, wenn Sie Dienste wie Telemetrie-Exporter oder ein Gateway ergänzen. Ihre Hosting-Plattform führt Ihren Code aus, wählen Sie deren Region daher mit Bedacht.

[Frage stellen](https://inference.eu/de/kontakt/)

## Verwandte Seiten

[Alle Integrationen](https://inference.eu/de/integrationen/)

-   [OpenAI SDK (Python and JavaScript)Richten Sie das offizielle OpenAI-SDK für Python oder JavaScript per base\_url auf inference.eu aus und nutzen Sie Open-Weight-Modelle aus der EU.SDKs](https://inference.eu/de/integrationen/openai-sdk/)
-   [MastraRichten Sie Mastra-Agenten und Workflows über eine eigene Modell-URL auf inference.eu aus und betreiben Sie sie mit Open-Weight-Modellen aus der EU.Frameworks](https://inference.eu/de/integrationen/mastra/)
-   [LangChainVerbinden Sie ChatOpenAI aus LangChain per base\_url mit inference.eu und betreiben Sie Chains, Agenten und LangGraph mit Open-Weight-Modellen aus der EU.Frameworks](https://inference.eu/de/integrationen/langchain/)

## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

-   Antwort innerhalb eines Werktags
-   Preise für Ihr Volumen
-   AV-Vertrag unterschriftsreif