--- title: "AnythingLLM avec des modèles hébergés en Europe" description: "Connectez AnythingLLM à inference.eu avec le fournisseur Generic OpenAI et discutez avec vos documents via des modèles open-weight traités dans l’UE." canonical: "https://inference.eu/fr/integrations/anythingllm/" language: "fr" --- Apps de chat · AnythingLLM # Utiliser AnythingLLM avec des modèles open source hébergés dans l’UE AnythingLLM est une application de bureau et auto-hébergeable pour discuter avec vos documents et lancer des agents. Son fournisseur Generic OpenAI se connecte à toute API compatible OpenAI : vos documents et votre base vectorielle restent en local, tandis que le modèle tourne sur les modèles open-weight d’inference.eu, dans des centres de données européens. [Contacter l'équipe](https://inference.eu/fr/contact/)[Configuration](#setup) 1. 01Format d'API: OpenAI 2. 02Centres de données dans l'UE 3. 03Couvert par un seul DPA ## Configuré en quelques minutes 1. 1 Créez une clé API dans votre compte inference.eu. 2. 2 Dans AnythingLLM, ouvrez Settings > AI Providers > LLM et choisissez Generic OpenAI. 3. 3 Saisissez l’URL de base d’inference.eu, votre clé API et un nom de modèle comme `glm-5.3`. 4. 4 Réglez la fenêtre de contexte et le nombre maximal de jetons selon le modèle, puis enregistrez. 5. 5 Ouvrez un workspace, déposez un document et posez une question à son sujet pour vérifier la connexion. .env ``` LLM_PROVIDER='generic-openai' GENERIC_OPEN_AI_BASE_PATH='https://api.inference.eu/v1' GENERIC_OPEN_AI_API_KEY='' GENERIC_OPEN_AI_MODEL_PREF='glm-5.3' GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT=131072 DISABLE_TELEMETRY='true' # Desktop app: Settings > AI Providers > LLM > Generic OpenAI, # then fill in Base URL, API Key, Chat Model Name and context window. ``` ## Qu’est-ce qu’AnythingLLM AnythingLLM, de Mintplex Labs, est une application open source de chat augmenté par vos documents et d’agents. Elle fonctionne comme application de bureau sous Windows, macOS et Linux, ou en déploiement Docker multi-utilisateur. Vous organisez vos documents en workspaces, et AnythingLLM les découpe, les vectorise et les stocke pour que les réponses citent vos propres fichiers. Les agents ajoutent navigation web, gestion de fichiers et compétences personnalisées. Par défaut, embeddings et base vectorielle tournent en local. Seul le modèle de langage nécessite un fournisseur, et l’option Generic OpenAI se connecte à toute API compatible OpenAI : c’est ainsi que vous utilisez inference.eu. ## Comment fonctionne la configuration Dans Settings > AI Providers > LLM, sélectionnez Generic OpenAI et renseignez Base URL (l’URL de base d’inference.eu terminée par `/v1`), la clé API, le nom du modèle tel qu’inference.eu l’indique, la fenêtre de contexte du modèle et le nombre maximal de jetons par réponse. Chaque workspace peut aussi définir son propre fournisseur et modèle. Pour les déploiements Docker, les mêmes réglages se placent dans le `.env` du serveur avec `LLM_PROVIDER='generic-openai'`, `GENERIC_OPEN_AI_BASE_PATH`, `GENERIC_OPEN_AI_API_KEY`, `GENERIC_OPEN_AI_MODEL_PREF` et `GENERIC_OPEN_AI_MODEL_TOKEN_LIMIT`. L’option Generic OpenAI est très souple : vérifiez soigneusement chaque champ. ## Quels modèles choisir Le chat sur documents demande un modèle fidèle au texte retrouvé et à l’aise avec un long contexte. `glm-5.3` et `kimi-k3` sont de bons choix pour répondre à des questions portant sur de nombreux documents, comparer des contrats ou résumer des rapports. Pour les questions rapides et les workspaces plus légers, `gpt-oss-120b` répond vite. Les agents AnythingLLM appellent des outils pour la navigation web, l’enregistrement de fichiers et les compétences personnalisées : utilisez dans les workspaces où vous invoquez `@agent` un modèle aux appels d’outils fiables, comme `kimi-k3` ou `glm-5.3`. Indiquez la vraie fenêtre de contexte pour inclure assez d’extraits. ## Dépannage Une erreur 401 signifie que la clé API est erronée ou a été collée avec des espaces. Une erreur 404 vient le plus souvent d’une URL de base sans `/v1` ou contenant `/chat/completions`. « Model not found » indique que le nom du modèle diffère de l’identifiant inference.eu : saisissez-le exactement. Si les réponses ignorent vos documents, la fenêtre de contexte est trop basse ou trop peu d’extraits sont récupérés : augmentez la limite de jetons et vérifiez le seuil de similarité du workspace. Si les agents n’appellent pas d’outils, choisissez pour l’agent un modèle aux appels d’outils plus solides. Après une modification, ouvrez un nouveau chat. ## Garder les données dans l’UE Avec inference.eu comme fournisseur de LLM, les questions et extraits de documents qu’AnythingLLM envoie au modèle sont traités dans des centres de données de l’UE et ne servent jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, publions la liste de nos sous-traitants et facturons en euros. AnythingLLM garde par défaut documents, embeddings et base vectorielle sur votre machine ou votre serveur. Il collecte une télémétrie d’usage anonyme, sauf si vous réglez `DISABLE_TELEMETRY` sur true ou la désactivez dans Privacy. Les compétences d’agent comme la recherche web utilisent leurs propres fournisseurs : vérifiez-les avant de les activer. ## AnythingLLM Catégorie Apps de chat Éditeur Mintplex Labs Format d'API OpenAI Traitement Centres de données dans l'UE Site web [anythingllm.com](https://anythingllm.com/) Documentation [docs.anythingllm.com](https://docs.anythingllm.com/setup/llm-configuration/cloud/openai-generic) ## AnythingLLM : questions fréquentes Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement. Ouvrez Settings > AI Providers > LLM et choisissez Generic OpenAI. Saisissez l’URL de base, la clé API, le nom du modèle, la fenêtre de contexte et le nombre maximal de jetons, puis enregistrez. Chaque workspace qui utilise le réglage système envoie alors ses requêtes à ce point d’accès. GLM-5.3 et Kimi K3 gèrent les longs contextes et restent fidèles au texte retrouvé, ce qui convient aux contrats, rapports et manuels. gpt-oss-120b est un choix rapide pour les workspaces plus légers et les questions courtes. Indiquez la fenêtre de contexte du modèle choisi, telle qu’annoncée chez inference.eu. AnythingLLM s’en sert pour savoir combien d’historique et d’extraits de documents tiennent dans chaque requête. Une valeur trop basse fait que les réponses ignorent vos documents. Par défaut, les documents sont vectorisés et stockés en local. Seuls la question et les extraits pertinents retrouvés sont envoyés au modèle chez inference.eu, où ils sont traités dans des centres de données de l’UE et ne servent jamais à l’entraînement. Oui. Dans un déploiement Docker, définissez dans le \`.env\` du serveur \`LLM\_PROVIDER='generic-openai'\` avec \`GENERIC\_OPEN\_AI\_BASE\_PATH\`, \`GENERIC\_OPEN\_AI\_API\_KEY\`, \`GENERIC\_OPEN\_AI\_MODEL\_PREF\` et \`GENERIC\_OPEN\_AI\_MODEL\_TOKEN\_LIMIT\`, puis redémarrez le conteneur. Les changements faits ensuite dans l’écran des réglages sont enregistrés par l’application. Oui. Les agents utilisent le modèle du workspace ou un modèle d’agent dédié. Choisissez-en un aux appels d’outils fiables, comme Kimi K3 ou GLM-5.3, pour que la navigation web, l’enregistrement de fichiers et les outils personnalisés soient appelés de manière fiable. Le nom du modèle doit correspondre exactement à l’identifiant inference.eu, par exemple \`glm-5.3\`. Generic OpenAI ne propose pas de liste de modèles, si bien que les fautes de frappe sont fréquentes. Corrigez le nom dans les réglages et ouvrez un nouveau chat. AnythingLLM collecte par défaut une télémétrie d’usage anonyme, sans contenu de documents ni conversations. Réglez \`DISABLE\_TELEMETRY='true'\` dans le \`.env\` du serveur, ou désactivez-la dans l’application sous Privacy, si aucune donnée autre que les requêtes de modèle ne doit quitter votre environnement. Oui. Chaque workspace peut remplacer le LLM système par son propre fournisseur et modèle. Vous pouvez par exemple utiliser GLM-5.3 pour un workspace juridique avec de longs contrats, et gpt-oss-120b pour un workspace d’équipe généraliste. AnythingLLM intègre un embedder et une base vectorielle locaux, qui gardent les embeddings de vos documents sur votre propre machine. C’est généralement le choix le plus simple ; le réglage LLM décrit sur cette page concerne le chat et les agents. [Poser une question](https://inference.eu/fr/contact/) ## Pages liées [Toutes les intégrations](https://inference.eu/fr/integrations/) - [Open WebUIConnectez Open WebUI à inference.eu comme connexion compatible OpenAI et offrez à votre équipe un chat auto-hébergé sur des modèles open-weight de l’UE.Apps de chat](https://inference.eu/fr/integrations/open-webui/) - [LibreChatAjoutez inference.eu comme custom endpoint dans librechat.yaml et offrez un chat auto-hébergé avec agents sur des modèles open-weight traités dans l’UE.Apps de chat](https://inference.eu/fr/integrations/librechat/) - [LlamaIndexConnectez LlamaIndex à inference.eu avec la classe OpenAILike et faites tourner vos pipelines RAG et agents sur des modèles open-weight traités dans l’UE.Frameworks](https://inference.eu/fr/integrations/llamaindex/) ## Faites passer vos charges IA sur une infrastructure européenne Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite. - Réponse sous un jour ouvré - Tarif adapté à votre volume - DPA prêt à signer