--- title: "Open WebUI mit KI-Modellen aus der EU einrichten" description: "Verbinden Sie Open WebUI als OpenAI-kompatible Verbindung mit inference.eu und bieten Sie Ihrem Team einen selbst gehosteten Chat mit EU-Modellen." canonical: "https://inference.eu/de/integrationen/open-webui/" language: "de" --- Chat-Apps · Open WebUI # Open WebUI mit Open-Source-Modellen aus der EU nutzen Open WebUI ist eine selbst gehostete Chat-Oberfläche mit Benutzern, Gruppen, Dokumenten-Chat und Tools. Fügen Sie inference.eu als OpenAI-kompatible Verbindung hinzu, und Ihr Team chattet gewohnt komfortabel mit Open-Weight-Modellen aus europäischen Rechenzentren, auf Infrastruktur unter Ihrer Kontrolle. [Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Einrichtung](#setup) 1. 01API-Format: OpenAI 2. 02Rechenzentren in der EU 3. 03Durch einen AV-Vertrag abgedeckt ## In wenigen Minuten eingerichtet 1. 1 Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel. 2. 2 Öffnen Sie in Open WebUI Settings > Admin > Connections und klicken Sie bei den OpenAI-API-Verbindungen auf Add Connection. 3. 3 Geben Sie die Basis-URL von inference.eu und Ihren API-Schlüssel ein und klicken Sie auf Verify Connection. 4. 4 Lassen Sie Model IDs leer, um alle Modelle zu laden, oder tragen Sie die gewünschten IDs ein, etwa `gpt-oss-120b`, und speichern Sie. 5. 5 Öffnen Sie einen neuen Chat, wählen Sie ein Modell von inference.eu und senden Sie eine Nachricht zur Prüfung. bash ``` docker run -d --name open-webui -p 3000:8080 \ -v open-webui:/app/backend/data \ -e OPENAI_API_BASE_URLS="https://api.inference.eu/v1" \ -e OPENAI_API_KEYS="$INFERENCE_EU_API_KEY" \ -e ENABLE_OLLAMA_API=false \ ghcr.io/open-webui/open-webui:main # Or in the UI: Settings > Admin > Connections > Add Connection, # with the inference.eu base URL and your API key. ``` ## Was Open WebUI ist Open WebUI ist eine quelloffene Weboberfläche für Sprachmodelle, die Sie selbst betreiben, meist mit Docker oder Kubernetes. Sie bietet ein Chat-Erlebnis wie kommerzielle Assistenten und dazu Benutzerverwaltung mit Rollen und Gruppen, Dokumenten-Upload und Wissensdatenbanken, Websuche, Tools, Prompts sowie Modellvorlagen, die Administratoren im Unternehmen teilen können. Modelle bindet Open WebUI über OpenAI-kompatible Verbindungen an. Sie können beliebig viele Verbindungen anlegen, jede mit eigener URL, eigenem Schlüssel und eigener Modellliste. inference.eu ist eine dieser Verbindungen; die Modelle erscheinen dann in der Modellauswahl der Benutzer und Gruppen, die Sie freigeben. ## So funktioniert die Konfiguration Legen Sie unter Settings > Admin > Connections eine Verbindung mit der Basis-URL von inference.eu mit Endung `/v1` und Ihrem API-Schlüssel an. Open WebUI ruft `/models` auf, um die verfügbaren Modelle zu ermitteln; mit Model IDs schränken Sie die Liste ein. Jede Verbindung lässt sich aktivieren oder deaktivieren, ohne ihre Einstellungen zu verlieren. Für automatisierte Deployments setzen Sie `OPENAI_API_BASE_URLS` und `OPENAI_API_KEYS` als Umgebungsvariablen und trennen mehrere Verbindungen in gleicher Reihenfolge mit Semikolons. Open WebUI speichert diese Werte beim ersten Start in seiner Datenbank. Danach haben Änderungen im Admin-Bereich Vorrang, sofern Sie die persistente Konfiguration nicht abschalten. ## Welche Modelle sich eignen Für allgemeinen Chat, Texte und Zusammenfassungen liefert `gpt-oss-120b` schnelle Antworten, die die Oberfläche flüssig halten. Für Dokumenten-Chat mit langen Dateien und Fragen, die sorgfältiges Schlussfolgern brauchen, sind `glm-5.3` und `kimi-k3` starke Optionen. Teams mit Programmierfragen profitieren von `qwen3-coder-480b-a35b-instruct`. Administratoren können darauf Arbeitsbereichsmodelle mit System-Prompt, verknüpftem Wissen und Tools aufbauen und mit bestimmten Gruppen teilen. Stellen Sie bei Modellen mit verlässlichen Tool-Aufrufen den Function-Calling-Modus auf nativ. Dann laufen Tools über die Tool-Aufrufe des Modells statt über eine Erkennung per Prompt. ## Fehlerbehebung Scheitert Verify Connection mit 401, ist der Schlüssel falsch oder enthält ein Leerzeichen am Ende. Ein 404 bedeutet meist, dass der URL `/v1` fehlt oder ein Pfad zu viel enthalten ist. Erscheinen keine Modelle, prüfen Sie den Filter Model IDs und ob die Verbindung aktiv ist. Wirkt eine geänderte `OPENAI_API_BASE_URLS` nach dem Neustart nicht, nutzt Open WebUI den in der Datenbank gespeicherten Wert. Ändern Sie die Verbindung dann im Admin-Bereich. Erreicht Docker die URL nicht, prüfen Sie ausgehendes Netzwerk und Proxy-Einstellungen des Containers. Werden Tools nicht aufgerufen, ändern Sie den Function-Calling-Modus oder wählen Sie ein Modell mit besserer Tool-Unterstützung. ## Daten bleiben in der EU Mit inference.eu als Verbindung werden alle Chat-Nachrichten, Auszüge aus hochgeladenen Dokumenten und Tool-Ergebnisse, die an das Modell gehen, in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab. Open WebUI speichert Chats, Dateien und Benutzer in seiner eigenen Datenbank. Hosten Sie die Anwendung daher in der EU. Websuche, Bildgenerierung, Sprache und Embeddings können jeweils eigene Anbieter nutzen. Wählen Sie dafür in der EU gehostete oder lokale Optionen und deaktivieren Sie Verbindungen, die Benutzer nicht erreichen sollen. ## Open WebUI Kategorie Chat-Apps Anbieter Open WebUI API-Format OpenAI Verarbeitung Rechenzentren in der EU Website [openwebui.com](https://openwebui.com/) Dokumentation [docs.openwebui.com](https://docs.openwebui.com/getting-started/quick-start/connect-a-provider/starting-with-openai-compatible) ## Open WebUI: häufige Fragen Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt. Öffnen Sie Settings > Admin > Connections, klicken Sie bei den OpenAI-API-Verbindungen auf Add Connection und geben Sie Basis-URL und API-Schlüssel ein. Prüfen Sie die Verbindung, tragen Sie bei Bedarf die anzubietenden Model IDs ein und speichern Sie. Die Modelle erscheinen dann in der Auswahl. Ja. Setzen Sie \`OPENAI\_API\_BASE\_URLS\` auf die Basis-URL von inference.eu und \`OPENAI\_API\_KEYS\` auf Ihren Schlüssel, mehrere Verbindungen getrennt durch Semikolons. Diese Werte werden beim ersten Start gespeichert, spätere Änderungen nehmen Sie im Admin-Bereich vor. Open WebUI speichert viele Einstellungen beim ersten Start in seiner Datenbank und bevorzugt danach die gespeicherten Werte. Bearbeiten Sie die Verbindung unter Settings > Admin > Connections oder schalten Sie die persistente Konfiguration ab, damit Umgebungsvariablen bei jedem Neustart gelten. gpt-oss-120b ist ein schneller Standard für den Chat im Alltag. GLM-5.3 und Kimi K3 eignen sich für Dokumenten-Chat und sorgfältiges Schlussfolgern, Qwen3 Coder 480B für Teams mit Programmierfragen. Sie können mehrere anbieten und die Benutzer wählen lassen. Ja. Die Sichtbarkeit lässt sich pro Modell festlegen, und Arbeitsbereichsmodelle können mit bestimmten Gruppen geteilt werden. Kombinieren Sie das mit der Liste Model IDs der Verbindung, um genau zu steuern, welche Modelle jedes Team nutzen darf. Ja. Open WebUI durchsucht hochgeladene Dateien und Wissensdatenbanken und übergibt die Treffer dem Modell als Kontext. Wählen Sie für lange Dokumente ein Modell mit großem Kontextfenster wie GLM-5.3 oder Kimi K3. Ja. Stellen Sie bei Modellen mit verlässlichen Tool-Aufrufen den Function-Calling-Modus in den erweiterten Parametern des Modells auf nativ. Open WebUI sendet die Tools dann im Standardformat und führt sie aus, sobald das Modell sie aufruft. Ein 401 bedeutet, dass der Schlüssel falsch ist oder zusätzliche Leerzeichen enthält. Ein 404 heißt, dass der URL \`/v1\` fehlt oder ein Pfad zu viel enthalten ist. Eine Zeitüberschreitung deutet auf Netzwerk- oder Proxy-Einstellungen des Servers hin, auf dem Open WebUI läuft. Open WebUI speichert Chats in seiner eigenen Datenbank. Funktionen wie Websuche, Bildgenerierung, Sprache und Embeddings nutzen die dafür konfigurierten Anbieter. Prüfen Sie jede Einstellung und wählen Sie in der EU gehostete oder lokale Optionen, damit Daten in Europa bleiben. Ja. Fügen Sie inference.eu als OpenAI-Verbindung hinzu und behalten Sie lokale Modelle über Ollama oder eine andere Verbindung. Die Benutzer wählen das Modell dann pro Chat. Deaktivieren Sie nicht benötigte Verbindungen, damit keine Modelle versehentlich angeboten werden. [Frage stellen](https://inference.eu/de/kontakt/) ## Verwandte Seiten [Alle Integrationen](https://inference.eu/de/integrationen/) - [LibreChatTragen Sie inference.eu als Custom Endpoint in die librechat.yaml ein und bieten Sie einen selbst gehosteten Chat mit Agenten und Open-Weight-Modellen aus der EU.Chat-Apps](https://inference.eu/de/integrationen/librechat/) - [AnythingLLMVerbinden Sie AnythingLLM über den Provider Generic OpenAI mit inference.eu und chatten Sie mit Ihren Dokumenten über Open-Weight-Modelle aus der EU.Chat-Apps](https://inference.eu/de/integrationen/anythingllm/) - [LiteLLMFügen Sie inference.eu mit dem Präfix openai/ zum LiteLLM-Proxy oder Python-SDK hinzu und leiten Sie Anfragen an Open-Weight-Modelle aus der EU.Gateways](https://inference.eu/de/integrationen/litellm/) ## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten. - Antwort innerhalb eines Werktags - Preise für Ihr Volumen - AV-Vertrag unterschriftsreif