Utiliser Open WebUI avec des modèles open source hébergés dans l’UE

Open WebUI est une interface web open source pour modèles de langage que vous hébergez vous-même, généralement avec Docker ou Kubernetes. Elle offre une expérience de chat proche des assistants commerciaux, avec gestion des utilisateurs par rôles et groupes, dépôt de documents et bases de connaissances, recherche web, outils, prompts et préréglages de modèles que les administrateurs partagent dans l’organisation.

Elle se connecte aux modèles via des connexions compatibles OpenAI. Vous pouvez en ajouter autant que nécessaire, chacune avec son URL, sa clé et sa liste de modèles. inference.eu devient l’une de ces connexions, et ses modèles apparaissent dans le sélecteur pour les utilisateurs et groupes autorisés.

Dans Settings > Admin > Connections, ajoutez une connexion avec l’URL de base d’inference.eu terminée par /v1 et votre clé API. Open WebUI appelle /models pour découvrir les modèles disponibles ; Model IDs permet de restreindre la liste. Chaque connexion peut être activée ou désactivée sans perdre ses réglages.

Pour les déploiements automatisés, définissez les variables OPENAI_API_BASE_URLS et OPENAI_API_KEYS, en séparant plusieurs connexions par des points-virgules dans le même ordre. Open WebUI enregistre ces valeurs dans sa base au premier démarrage ; ensuite, les modifications faites dans le panneau d’administration priment sur l’environnement, sauf si vous désactivez la configuration persistante.

Pour le chat généraliste, la rédaction et la synthèse, gpt-oss-120b répond vite et garde l’interface fluide. Pour le chat sur de longs documents et les questions qui exigent un raisonnement soigné, glm-5.3 et kimi-k3 sont de bons choix. Les équipes qui posent des questions de programmation tirent parti de qwen3-coder-480b-a35b-instruct.

Les administrateurs peuvent créer par-dessus des modèles d’espace de travail, avec prompt système, connaissances et outils associés, et les partager avec certains groupes. Réglez le mode d’appel de fonctions sur natif pour les modèles aux appels d’outils fiables : les outils passent alors par les appels d’outils du modèle plutôt que par une détection fondée sur le prompt.

Si Verify Connection échoue avec une erreur 401, la clé est erronée ou contient une espace finale. Une erreur 404 signifie le plus souvent que l’URL n’a pas de /v1 ou comporte un chemin en trop. Si aucun modèle n’apparaît, vérifiez le filtre Model IDs et que la connexion est bien activée.

Si une modification de OPENAI_API_BASE_URLS reste sans effet après redémarrage, c’est la valeur enregistrée en base qui s’applique : modifiez plutôt la connexion dans le panneau d’administration. Si Docker n’atteint pas l’URL, vérifiez le réseau sortant et le proxy du conteneur. Si les outils ne sont pas appelés, changez le mode d’appel de fonctions ou choisissez un modèle mieux adapté.

Avec inference.eu comme connexion, chaque message, extrait de document déposé et résultat d’outil envoyé au modèle est traité dans des centres de données de l’UE et ne sert jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, publions la liste de nos sous-traitants et facturons en euros.

Open WebUI conserve chats, fichiers et utilisateurs dans sa propre base : hébergez-la dans l’UE. Recherche web, génération d’images, voix et embeddings peuvent chacun utiliser un fournisseur distinct ; choisissez pour eux des options hébergées dans l’UE ou locales, et désactivez les connexions que les utilisateurs ne doivent pas atteindre.