Utiliser CrewAI avec des modèles open source hébergés dans l’UE

CrewAI est un framework Python open source pour les systèmes multi-agents. Vous définissez des agents avec un rôle, un objectif et un contexte, vous leur donnez des outils et vous leur confiez des tâches au sein d’une crew, exécutée de façon séquentielle ou sous la direction d’un agent manager. Les Flows ajoutent un pilotage par événements pour la production.

Chaque agent dialogue avec un modèle de langage via la classe LLM. Son intégration OpenAI accepte une base_url et, si le nom du modèle ne fait pas partie de ceux d’OpenAI, CrewAI envoie la requête à ce point d’accès personnalisé. C’est ainsi que toute une crew tourne sur inference.eu.

Créez LLM(model="openai/<identifiant>", base_url=..., api_key=...). Le préfixe openai/ sélectionne le client compatible OpenAI de CrewAI et il est retiré avant l’envoi : inference.eu reçoit l’identifiant seul. base_url est l’URL de base d’inference.eu terminée par /v1.

Passez l’objet à chaque agent avec llm=. Un agent sans llm explicite se rabat sur le modèle par défaut de CrewAI : définissez-le donc partout, y compris manager_llm pour les crews hiérarchiques et function_calling_llm si vous l’utilisez. Dans les projets en YAML, définissez modèle et URL dans le code ou via les variables MODEL et OPENAI_BASE_URL.

Les crews passent l’essentiel de leur temps à planifier, déléguer et appeler des outils : les modèles aux appels d’outils fiables, qui suivent bien les consignes, donnent les meilleurs résultats. kimi-k3 et glm-5.3 sont de bons choix par défaut pour les agents et managers qui coordonnent plusieurs étapes.

Pour les agents de recherche ou de rédaction qui résument de gros volumes, glm-5.3 gère bien les longs contextes. Les agents de code tirent parti de qwen3-coder-480b-a35b-instruct. Pour les agents exécutants qui classent, extraient ou reformatent, gpt-oss-120b garde chaque étape rapide. Chaque agent peut recevoir son propre LLM : mélanger les modèles dans une crew est simple.

Une erreur 401 signifie que la clé est erronée, ou qu’un agent sans llm explicite s’est rabattu sur le modèle par défaut et sur OPENAI_API_KEY. Définissez llm= pour chaque agent. Une erreur 404 vient le plus souvent d’un chemin en trop dans base_url ou d’un identifiant erroné.

Si CrewAI signale un fournisseur inconnu, vérifiez que le nom du modèle commence par openai/. Si un agent tourne en boucle sur un outil ou renvoie son raisonnement au lieu d’une réponse finale, choisissez un modèle aux appels d’outils plus solides ou abaissez max_iter. La mémoire et les sources de connaissances utilisent un embedder OpenAI par défaut : configurez-en un explicitement avant de les activer.

Avec le LLM de chaque agent pointé vers inference.eu, les descriptions de tâches, le contexte et les résultats d’outils envoyés par votre crew sont traités dans des centres de données de l’UE et ne servent jamais à l’entraînement. Nous signons un accord de sous-traitance au titre de l’article 28 du RGPD, publions la liste de nos sous-traitants et facturons en euros.

CrewAI collecte par défaut une télémétrie d’usage anonyme, sans prompts ni contenu des tâches ; réglez CREWAI_DISABLE_TELEMETRY=true pour la désactiver et laissez share_crew désactivé. Mémoire, sources de connaissances et outils ont leurs propres fournisseurs : choisissez des options hébergées dans l’UE pour garder toute la crew en Europe.