Kann Flowise eine eigene OpenAI-kompatible API nutzen?

Ja. Flowise dokumentiert eigene Basis-URLs für seine ChatOpenAI-Nodes. Nutzen Sie den Node ChatOpenAI Custom, verbinden Sie OpenAI-API-Zugangsdaten mit Ihrem Schlüssel, geben Sie den Modellnamen ein und setzen Sie Base Path unter Additional Parameters.

Nehme ich für inference.eu ChatOpenAI oder ChatOpenAI Custom?

Nehmen Sie ChatOpenAI Custom. Der Node akzeptiert jeden Modellnamen, etwa `kimi-k3` oder `gpt-oss-120b`. Der normale ChatOpenAI-Node hat zwar ebenfalls ein Feld Base Path, seine Modellliste zeigt aber nur die eigenen Namen von OpenAI.

Wo setze ich in Flowise die Basis-URL?

Öffnen Sie am Node ChatOpenAI Custom die Additional Parameters und tragen Sie die Basis-URL von inference.eu mit Endung `/v1` in das Feld Base Path ein. Ohne diesen Eintrag sendet der Node seine Anfragen an die Standardadresse von OpenAI.

Welches Modell von inference.eu passt am besten zu Flowise-Agenten?

Kimi K3 und GLM-5.3 sind gute Standards für Tool-Agenten und Agentflows. gpt-oss-120b passt zu Chatbots im Dialog und Retrieval-Chains, bei denen schnelle Antworten zählen, Qwen3 Coder 480B zu Flows, die mit Code arbeiten.

Funktioniert Flowise Agentflow mit inference.eu?

Ja. Agent- und LLM-Nodes in Agentflows lassen Sie ChatOpenAI Custom als Modell wählen, mit denselben Zugangsdaten, demselben Modellnamen und demselben Base Path. Jeder Node kann dabei ein eigenes Modell von inference.eu nutzen.

Warum erhalte ich in Flowise einen Fehler 401?

Entweder enthalten die Zugangsdaten den falschen Schlüssel, oder Base Path ist leer und der Node ruft OpenAI mit Ihrem Schlüssel von inference.eu auf. Prüfen Sie beides, speichern Sie den Flow und senden Sie eine neue Nachricht.

Funktioniert Streaming in Flowise mit inference.eu?

Ja. Aktivieren Sie Streaming am Node ChatOpenAI Custom, dann zeigen Chat-Fenster und eingebettetes Widget die Tokens, sobald sie erzeugt werden. inference.eu streamt im Standardformat von Chat Completions, das der Node erwartet.

Sendet Flowise Daten an FlowiseAI?

Selbst gehostetes Flowise erfasst anonyme Nutzungstelemetrie, sofern Sie nicht `DISABLE_FLOWISE_TELEMETRY=true` setzen. Flows und Chatverläufe bleiben in Ihrer Datenbank. In Flowise Cloud werden sie auf der Infrastruktur des Anbieters nach dessen Bedingungen gespeichert.

Kann ich inference.eu in Flowise für Embeddings nutzen?

Diese Seite behandelt Chat-Modelle. Embedding-Nodes und Vektordatenbanken in Ihren Flows haben eigene Zugangsdaten und Einstellungen. Wählen Sie dafür in der EU gehostete oder selbst betriebene Optionen, damit indexierte Dokumente zusammen mit Ihren Modellanfragen in Europa bleiben.

Warum erreicht Flowise die URL von inference.eu nicht?

Prüfen Sie ausgehendes Netzwerk und Proxy-Einstellungen des Servers. Selbst gehostetes Flowise wendet außerdem eine HTTP-Sperrliste auf Base-Path-Werte an. Hat Ihr Administrator sie angepasst, stellen Sie sicher, dass der Host von inference.eu erlaubt ist.

Flowise mit KI-Modellen aus der EU einrichten

In wenigen Minuten eingerichtet

1
Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel.
2
Legen Sie in Flowise unter Credentials OpenAI-API-Zugangsdaten namens inference.eu an und fügen Sie Ihren Schlüssel ein.
3
Ziehen Sie in einem Chatflow den Node ChatOpenAI Custom aus Chat Models auf die Fläche und verbinden Sie die neuen Zugangsdaten.
4
Geben Sie die Modell-ID von inference.eu ein, etwa kimi-k3, öffnen Sie Additional Parameters und setzen Sie Base Path auf die Basis-URL von inference.eu.
5
Verbinden Sie den Node mit einer Chain oder einem Agenten und senden Sie im Chat-Fenster eine Testnachricht.

yaml

# Credential: Credentials > Add Credential > OpenAI API
Credential Name: inference.eu
OpenAI Api Key: <your INFERENCE_EU_API_KEY>

# Node: Chat Models > ChatOpenAI Custom
Connect Credential: inference.eu
Model Name: kimi-k3
Streaming: true
# Additional Parameters
Base Path: https://api.inference.eu/v1

Was Flowise ist

Flowise ist ein quelloffener visueller Baukasten für Anwendungen mit Sprachmodellen. Sie ziehen Nodes auf eine Arbeitsfläche und bauen Chatflows aus LangChain-Komponenten sowie Agentflows mit mehreren Agenten, Tools, Bedingungen und menschlicher Prüfung. Fertige Flows binden Sie als Chat-Widget ein oder rufen sie über eine API auf. Flowise läuft selbst gehostet mit Node.js oder Docker oder als Cloud-Dienst.

Chat-Modelle sind Nodes auf der Fläche. Flowise dokumentiert eigene Basis-URLs für seine ChatOpenAI-Nodes, damit sie mit jedem OpenAI-kompatiblen Dienst sprechen, und der Node ChatOpenAI Custom akzeptiert beliebige Modellnamen. Zusammen verbinden sie Ihre Flows mit inference.eu.

So funktioniert die Konfiguration

Legen Sie OpenAI-API-Zugangsdaten mit Ihrem Schlüssel von inference.eu an. Flowise speichert Zugangsdaten verschlüsselt und macht sie in allen Flows wiederverwendbar. Fügen Sie dann den Node ChatOpenAI Custom hinzu, verbinden Sie die Zugangsdaten und tragen Sie unter Model Name die Modell-ID von inference.eu ein.

Setzen Sie unter Additional Parameters den Base Path auf die Basis-URL von inference.eu mit Endung /v1. Auch der normale ChatOpenAI-Node hat ein Feld Base Path, seine Modellliste enthält aber die Namen von OpenAI. ChatOpenAI Custom ist daher die einfachere Wahl. Agentflow-Nodes lassen Sie ChatOpenAI Custom auf dieselbe Weise als Modell wählen.

Welche Modelle sich eignen

Für Chatbots im Dialog und Retrieval-Chains über Dokumente liefert gpt-oss-120b schnelle Antworten und hält das Chat-Widget reaktionsschnell. Für Tool-Agenten und mehrstufige Agentflows wählen Sie kimi-k3 oder glm-5.3, die verlässliche Tool-Aufrufe liefern und langen Kontext verarbeiten.

RAG-Flows, die aus langen Dokumenten antworten, profitieren von glm-5.3 oder kimi-k3. Für Flows, die Code erzeugen oder prüfen, nutzen Sie qwen3-coder-480b-a35b-instruct. Jeder Chat-Model-Node ist unabhängig. Ein Agentflow kann also mit einem schnellen Modell routen und mit einem stärkeren antworten, alles über inference.eu.

Fehlerbehebung

Ein Fehler 401 bedeutet, dass die Zugangsdaten den falschen Schlüssel enthalten. Ein 404 entsteht meist, wenn Base Path leer ist, /v1 fehlt oder ein Pfad zu viel enthalten ist. Ist Base Path leer, ruft der Node OpenAI mit Ihrem Schlüssel von inference.eu auf und scheitert. „Model not found“ heißt, dass Model Name von der ID bei inference.eu abweicht.

Antwortet ein Tool-Agent, ohne Tools aufzurufen, wählen Sie ein Modell mit stärkeren Tool-Aufrufen. Erscheint kein Streaming im Chat-Fenster, prüfen Sie, ob Streaming am Node aktiv ist. Selbst gehostetes Flowise kann ausgehende Hosts über eine HTTP-Sperrliste blockieren. Stellen Sie sicher, dass der Host von inference.eu nicht darauf steht.

Daten bleiben in der EU

Mit Base Path auf inference.eu werden Nachrichten, abgerufene Dokumente und Tool-Ergebnisse, die Ihre Flows an das Modell senden, in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab.

Flowise speichert Flows, Zugangsdaten und Chatverläufe in seiner eigenen Datenbank. Hosten Sie Flowise in der EU, um volle Kontrolle zu behalten, und setzen Sie DISABLE_FLOWISE_TELEMETRY=true, um die anonyme Nutzungstelemetrie abzuschalten. Embeddings, Vektordatenbanken und Tools in Ihren Flows nutzen eigene Anbieter. Wählen Sie dafür in der EU gehostete Optionen.

Flowise mit Open-Source-Modellen aus der EU nutzen