--- title: "Dify mit KI-Modellen aus der EU einrichten" description: "Binden Sie inference.eu über das Plugin OpenAI-API-compatible in Dify ein und bauen Sie Chatbots, Agenten und Workflows mit Open-Weight-Modellen aus der EU." canonical: "https://inference.eu/de/integrationen/dify/" language: "de" --- Automatisierung · Dify # Dify mit Open-Source-Modellen aus der EU nutzen Dify ist eine quelloffene Plattform, auf der Sie KI-Anwendungen, Agenten und Workflows in einem visuellen Editor bauen. Das Modell-Plugin OpenAI-API-compatible verbindet sich mit jeder kompatiblen API. So laufen Ihre Dify-Anwendungen auf Open-Weight-Modellen bei inference.eu, verarbeitet in europäischen Rechenzentren. [Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Einrichtung](#setup) 1. 01API-Format: OpenAI 2. 02Rechenzentren in der EU 3. 03Durch einen AV-Vertrag abgedeckt ## In wenigen Minuten eingerichtet 1. 1 Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel. 2. 2 Öffnen Sie in Dify Settings > Model Provider und installieren Sie das Plugin OpenAI-API-compatible aus dem Marketplace. 3. 3 Klicken Sie auf Add Model, wählen Sie LLM und geben Sie die Modell-ID von inference.eu, Ihren API-Schlüssel und die Basis-URL von inference.eu als API endpoint URL ein. 4. 4 Setzen Sie Completion mode auf Chat, tragen Sie Kontextgröße und maximale Tokens ein und aktivieren Sie Tool Call, wenn das Modell Function Calling unterstützt. 5. 5 Wählen Sie das Modell in einem Chatbot, Agenten oder LLM-Node eines Workflows und führen Sie ein Testgespräch. yaml ``` # Settings > Model Provider > OpenAI-API-compatible > Add Model # Values to enter in the form, one entry per model: Model Type: LLM Model Name: glm-5.3 Model display name: GLM-5.3 (inference.eu) API Key: API endpoint URL: https://api.inference.eu/v1 Completion mode: Chat Model context size: 131072 Upper bound for max tokens: 8192 Function calling: Tool Call Stream function calling: Supported Vision support: Not supported ``` ## Was Dify ist Dify ist eine quelloffene Plattform für Anwendungen mit Sprachmodellen. In einem visuellen Editor bauen Sie Chatbots, Agenten mit Tools, Textgeneratoren und mehrstufige Workflows und veröffentlichen sie als Web-Apps oder APIs. Dazu gehören Wissensdatenbanken mit Dokumentensuche, Prompt-Verwaltung, Logs und Annotationen. Dify läuft als Dify Cloud oder selbst gehostet mit Docker. Modelle kommen über Modell-Plugins hinzu. Das offizielle, vom Dify-Team gepflegte Plugin OpenAI-API-compatible verbindet sich mit jedem Dienst, der die OpenAI-API umsetzt. So stellen Sie Modelle von inference.eu jeder Anwendung in Ihrem Workspace bereit. ## So funktioniert die Konfiguration Nach der Installation des Plugins fügen Sie jedes Modell einzeln hinzu. Wählen Sie LLM als Modelltyp, geben Sie die Modell-ID von inference.eu als Model Name, Ihren Schlüssel als API Key und die Basis-URL von inference.eu mit Endung `/v1` als API endpoint URL ein. Setzen Sie Completion mode auf Chat. Die übrigen Felder beschreiben die Fähigkeiten des Modells. Kontextgröße und Obergrenze für maximale Tokens steuern, wie viel Text Dify sendet und anfordert. Setzen Sie Function calling bei Modellen mit Tool-Unterstützung auf Tool Call, damit Dify-Agenten natives Function Calling nutzen. Nach dem Speichern erscheint das Modell in jeder Modellauswahl des Workspace. ## Welche Modelle sich eignen Für Chatbots, Textgenerierung und Klassifizierungs-Nodes ist `gpt-oss-120b` ein schneller Standard, der Anwendungen reaktionsschnell hält. Für Agenten und Workflows mit Tool-Aufrufen fügen Sie `kimi-k3` oder `glm-5.3` mit aktiviertem Tool Call hinzu. Beide beherrschen mehrstufiges Schlussfolgern und langen Kontext. Wissensanwendungen, die aus langen Dokumenten antworten, profitieren von `glm-5.3` oder `kimi-k3` mit großer Kontextgröße. Für Anwendungen, die Code erzeugen oder prüfen, ergänzen Sie `qwen3-coder-480b-a35b-instruct`. Sie können mehrere Modelle von inference.eu hinzufügen und in jedem Workflow-Node ein anderes wählen, etwa ein schnelles für das Routing und ein stärkeres für die Antwort. ## Fehlerbehebung Scheitert das Speichern des Modells mit 401, ist der API-Schlüssel falsch. Ein 404 bedeutet meist, dass der Endpunkt-URL bei LLM-Modellen das `/v1` fehlt oder ein Pfad zu viel enthalten ist. „Model not found“ heißt, dass Model Name von der ID bei inference.eu abweicht. Beschreibt ein Agent Tool-Aufrufe nur im Text, statt sie auszuführen, setzen Sie Function calling auf Tool Call und wählen Sie ein Modell mit verlässlicher Tool-Unterstützung. Werden Antworten abgeschnitten, erhöhen Sie die Obergrenze für maximale Tokens. Fehlen Inhalte aus der Wissensdatenbank, prüfen Sie die Kontextgröße. Selbst gehostetes Dify braucht ausgehenden Netzwerkzugang für den Plugin-Daemon. ## Daten bleiben in der EU Mit inference.eu als Modellanbieter werden Prompts, abgerufenes Wissen und Tool-Ergebnisse, die Ihre Dify-Anwendungen an das Modell senden, in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab. Dify speichert Anwendungen, Gespräche, Logs und Wissensdatenbanken in eigener Datenbank und eigenem Speicher. Hosten Sie Dify in der EU, um volle Kontrolle zu behalten, oder prüfen Sie, wo Ihr Workspace in Dify Cloud gehostet wird. Embedding- und Rerank-Modelle für Wissensdatenbanken werden separat konfiguriert. Wählen Sie auch dafür in der EU gehostete Optionen. ## Dify Kategorie Automatisierung Anbieter LangGenius API-Format OpenAI Verarbeitung Rechenzentren in der EU Website [dify.ai](https://dify.ai/) Dokumentation [marketplace.dify.ai](https://marketplace.dify.ai/plugins/langgenius/openai_api_compatible) ## Dify: häufige Fragen Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt. Installieren Sie unter Settings > Model Provider das Plugin OpenAI-API-compatible, klicken Sie auf Add Model und geben Sie Modelltyp, Modellnamen, API-Schlüssel und API endpoint URL ein. Legen Sie Completion mode, Kontextgröße und Fähigkeiten fest und speichern Sie. Tragen Sie bei LLM-Modellen die Basis-URL von inference.eu mit Endung \`/v1\` ein. Dify hängt \`/chat/completions\` selbst an, ergänzen Sie also keinen weiteren Pfad. Laut Plugin-Dokumentation erwarten einige andere Modelltypen die URL ohne Versionssuffix. Kimi K3 und GLM-5.3 sind starke Optionen für Agenten und Workflows mit Tool-Aufrufen; aktivieren Sie beim Hinzufügen unbedingt Tool Call. gpt-oss-120b ist eine schnelle Wahl für Chatbots und einfache Klassifizierungs-Nodes. Dify nutzt natives Function Calling nur, wenn beim Modell Function calling auf Tool Call steht. Bearbeiten Sie das Modell in den Einstellungen unter Model Provider, aktivieren Sie die Option und wählen Sie ein Modell mit verlässlicher Tool-Unterstützung wie Kimi K3 oder GLM-5.3. Die Obergrenze für maximale Tokens oder der in der Anwendung eingestellte Wert ist zu niedrig. Erhöhen Sie beide passend zu Modell und Anwendungsfall. Prüfen Sie auch die Kontextgröße des Modells, denn Dify bestimmt daran, wie viel Verlauf und Wissen gesendet wird. Ja. Einmal hinzugefügt, erscheinen die Modelle von inference.eu in jedem LLM-, Question-Classifier-, Parameter-Extractor- und Agent-Node. Jeder Node kann ein eigenes Modell nutzen, Sie können schnelle und stärkere Modelle in einem Workflow also kombinieren. Ja. Das Plugin OpenAI-API-compatible fügt Modelle einzeln hinzu, jeweils mit eigenem Namen, eigener Kontextgröße und eigenen Fähigkeiten. Legen Sie die Modelle an, die Ihre Teams brauchen, zum Beispiel gpt-oss-120b, GLM-5.3 und Qwen3 Coder 480B. Ja. Installieren Sie das Plugin aus dem Marketplace in Ihrer eigenen Instanz und fügen Sie Modelle auf die gleiche Weise hinzu. Der Plugin-Daemon braucht ausgehenden Netzwerkzugang zur Basis-URL von inference.eu. Prüfen Sie daher Firewall und Proxy. Modellanfragen an inference.eu werden in EU-Rechenzentren verarbeitet. Dify Cloud speichert Anwendungen, Logs und Gespräche auf der eigenen Infrastruktur von Dify nach dessen Bedingungen. Hosten Sie Dify selbst in der EU, wenn Sie diese Daten vollständig kontrollieren müssen. Diese Seite behandelt Sprachmodelle. Wissensdatenbanken nutzen eigene Embedding- und Rerank-Modelle, die unter Model Provider eingerichtet werden. Wählen Sie dafür in der EU gehostete oder selbst betriebene Optionen, damit Dokumente zusammen mit Ihren Modellanfragen in Europa bleiben. [Frage stellen](https://inference.eu/de/kontakt/) ## Verwandte Seiten [Alle Integrationen](https://inference.eu/de/integrationen/) - [n8nRichten Sie die OpenAI-Zugangsdaten in n8n auf inference.eu aus und betreiben Sie AI-Agent- und Chat-Model-Workflows mit Open-Weight-Modellen aus der EU.Automatisierung](https://inference.eu/de/integrationen/n8n/) - [FlowiseRichten Sie den Node ChatOpenAI Custom in Flowise per Base Path auf inference.eu aus und bauen Sie Chatflows und Agenten mit Open-Weight-Modellen aus der EU.Automatisierung](https://inference.eu/de/integrationen/flowise/) - [LiteLLMFügen Sie inference.eu mit dem Präfix openai/ zum LiteLLM-Proxy oder Python-SDK hinzu und leiten Sie Anfragen an Open-Weight-Modelle aus der EU.Gateways](https://inference.eu/de/integrationen/litellm/) ## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten. - Antwort innerhalb eines Werktags - Preise für Ihr Volumen - AV-Vertrag unterschriftsreif