--- title: "CrewAI mit KI-Modellen aus der EU einrichten" description: "Betreiben Sie CrewAI-Agenten und Crews mit Open-Weight-Modellen aus EU-Rechenzentren, indem Sie der Klasse LLM Basis-URL und Schlüssel von inference.eu geben." canonical: "https://inference.eu/de/integrationen/crewai/" language: "de" --- Frameworks · CrewAI # CrewAI mit Open-Source-Modellen aus der EU nutzen CrewAI ist ein Python-Framework, das Teams von KI-Agenten mit gemeinsamen Aufgaben und Tools steuert. Die Klasse \`LLM\` akzeptiert eine eigene OpenAI-kompatible Basis-URL. So läuft jeder Agent einer Crew auf Open-Weight-Modellen bei inference.eu, verarbeitet in europäischen Rechenzentren. [Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Einrichtung](#setup) 1. 01API-Format: OpenAI 2. 02Rechenzentren in der EU 3. 03Durch einen AV-Vertrag abgedeckt ## In wenigen Minuten eingerichtet 1. 1 Erstellen Sie in Ihrem inference.eu-Konto einen API-Schlüssel und speichern Sie ihn als `INFERENCE_EU_API_KEY`. 2. 2 Installieren Sie CrewAI mit `pip install crewai`. 3. 3 Erzeugen Sie ein `LLM` mit `model` auf `openai/` plus Modell-ID von inference.eu, `base_url` auf der Basis-URL von inference.eu und `api_key` aus der Umgebung. 4. 4 Übergeben Sie das `LLM` mit `llm=...` an jeden `Agent` und bei hierarchischem Ablauf auch an den Manager der Crew. 5. 5 Führen Sie `kickoff()` mit einer kleinen Aufgabe aus, um zu prüfen, dass jeder Agent über inference.eu antwortet. python ``` import os from crewai import LLM, Agent, Crew, Task llm = LLM( model="openai/kimi-k3", base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"], ) analyst = Agent( role="Contract analyst", goal="Find data protection obligations in supplier contracts", backstory="You review contracts for an EU procurement team.", llm=llm, ) task = Task( description="List the processor obligations in this clause: {clause}", expected_output="A short bullet list", agent=analyst, ) print(Crew(agents=[analyst], tasks=[task]).kickoff(inputs={"clause": "..."})) ``` ## Was CrewAI ist CrewAI ist ein quelloffenes Python-Framework für Multi-Agenten-Systeme. Sie definieren Agenten mit Rolle, Ziel und Hintergrund, geben ihnen Tools und weisen ihnen Aufgaben in einer Crew zu, die nacheinander oder unter einem Manager-Agenten abläuft. Flows ergänzen Crews um ereignisgesteuerte Abläufe für den Produktivbetrieb. Jeder Agent spricht über die Klasse `LLM` mit einem Sprachmodell. Deren OpenAI-Integration akzeptiert eine `base_url`. Ist der Modellname keiner der eigenen Modelle von OpenAI, leitet CrewAI die Anfrage an diesen Endpunkt weiter. So betreiben Sie eine ganze Crew mit inference.eu. ## So funktioniert die Konfiguration Erzeugen Sie `LLM(model="openai/", base_url=..., api_key=...)`. Das Präfix `openai/` wählt den OpenAI-kompatiblen Client von CrewAI und wird vor der Anfrage entfernt, inference.eu erhält also die reine Modell-ID. `base_url` ist die Basis-URL von inference.eu mit Endung `/v1`. Übergeben Sie das Objekt jedem Agenten mit `llm=`. Agenten ohne eigenes `llm` greifen auf das Standardmodell von CrewAI zurück. Setzen Sie es daher überall, auch als `manager_llm` bei hierarchischen Crews und als `function_calling_llm`, falls genutzt. In YAML-basierten Projekten legen Sie Modell und Basis-URL im Code oder über `MODEL` und `OPENAI_BASE_URL` fest. ## Welche Modelle sich eignen Crews verbringen die meiste Zeit mit Planen, Delegieren und Tool-Aufrufen. Am besten arbeiten daher Modelle mit verlässlichen Tool-Aufrufen, die Anweisungen genau befolgen. `kimi-k3` und `glm-5.3` sind gute Standards für Agenten und Manager, die mehrere Schritte koordinieren. Für Recherche- oder Schreibagenten, die große Eingaben zusammenfassen, kommt `glm-5.3` gut mit langem Kontext zurecht. Coding-Agenten profitieren von `qwen3-coder-480b-a35b-instruct`. Für einfache Arbeitsagenten, die klassifizieren, extrahieren oder umformatieren, hält `gpt-oss-120b` jeden Schritt kurz. Jeder Agent kann sein eigenes `LLM` erhalten, Sie können Modelle in einer Crew also frei mischen. ## Fehlerbehebung Ein Fehler 401 bedeutet, dass der Schlüssel falsch ist oder ein Agent ohne eigenes `llm` auf das Standardmodell und `OPENAI_API_KEY` ausgewichen ist. Setzen Sie `llm=` bei jedem Agenten. Ein 404 entsteht meist durch einen zusätzlichen Pfad in `base_url` oder eine falsche Modell-ID. Meldet CrewAI einen unbekannten Provider, prüfen Sie, ob der Modellname mit `openai/` beginnt. Hängt ein Agent in einer Tool-Schleife oder liefert er seinen Denkprozess statt einer Antwort, wählen Sie ein Modell mit stärkeren Tool-Aufrufen oder senken Sie `max_iter`. Gedächtnis- und Wissensfunktionen nutzen einen Embedder, der standardmäßig OpenAI verwendet. Konfigurieren Sie ihn vorher explizit. ## Daten bleiben in der EU Ist das `LLM` jedes Agenten auf inference.eu ausgerichtet, werden Aufgabenbeschreibungen, Kontext und Tool-Ergebnisse Ihrer Crew in EU-Rechenzentren verarbeitet und nie zum Training verwendet. Wir schließen einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO, veröffentlichen unsere Unterauftragsverarbeiter und rechnen in Euro ab. CrewAI erfasst standardmäßig anonyme Nutzungstelemetrie ohne Prompts oder Aufgabeninhalte. Mit `CREWAI_DISABLE_TELEMETRY=true` schalten Sie sie ab; lassen Sie außerdem `share_crew` deaktiviert. Gedächtnis, Wissensquellen und Tools haben eigene Anbieter. Wählen Sie dafür in der EU gehostete Optionen, damit die gesamte Crew in Europa bleibt. ## CrewAI Kategorie Frameworks Anbieter CrewAI API-Format OpenAI Verarbeitung Rechenzentren in der EU Website [www.crewai.com](https://www.crewai.com/) Dokumentation [docs.crewai.com](https://docs.crewai.com/en/concepts/llms) ## CrewAI: häufige Fragen Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt. Erzeugen Sie \`LLM(model="openai/", base\_url=..., api\_key=...)\` und übergeben Sie es Ihren Agenten mit \`llm=\`. Anfragen für Modell-IDs, die CrewAI nicht als eigene Modelle von OpenAI erkennt, gehen an die gesetzte \`base\_url\`. Das Präfix weist CrewAI an, den OpenAI-kompatiblen Client zu verwenden. Es wird vor dem Senden entfernt, inference.eu erhält also die reine Modell-ID, zum Beispiel \`kimi-k3\`. Ohne Präfix versucht CrewAI womöglich, einen anderen Provider abzuleiten. Kimi K3 und GLM-5.3 sind gute Standards für Agenten und Manager, die planen und Tools aufrufen. Qwen3 Coder 480B passt zu Coding-Agenten, gpt-oss-120b zu einfachen Arbeitsagenten, die Inhalte schnell klassifizieren oder umformatieren. Agenten ohne eigenes \`llm\` nutzen das Standardmodell von CrewAI. Setzen Sie \`llm=\` bei jedem Agenten, dazu \`manager\_llm\` bei hierarchischen Crews und \`function\_calling\_llm\`, wo verwendet. Ohne \`OPENAI\_API\_KEY\` in der Umgebung fallen übersehene Agenten sofort auf. Gedächtnis und Wissensquellen brauchen einen Embedder, der standardmäßig OpenAI-Embeddings nutzt. Konfigurieren Sie vor dem Aktivieren einen Embedder, dessen Hosting Ihren Anforderungen entspricht. Das Chat-Modell der Agenten bleibt in jedem Fall bei inference.eu. Ja. Setzen Sie \`MODEL=openai/\`, \`OPENAI\_BASE\_URL\` auf die Basis-URL von inference.eu und \`OPENAI\_API\_KEY\` auf Ihren Schlüssel von inference.eu. Das passt zu YAML-basierten Projekten, explizite \`LLM\`-Objekte machen den Anbieter im Code aber klarer. Standardmäßig erfasst CrewAI anonyme Nutzungstelemetrie ohne Prompts, Aufgabenbeschreibungen oder Ergebnisse. Detaillierte Daten werden nur geteilt, wenn Sie \`share\_crew\` aktivieren. Mit \`CREWAI\_DISABLE\_TELEMETRY=true\` schalten Sie die Telemetrie für Ihre Crews vollständig und dauerhaft ab. Das Modell hält sich nicht zuverlässig an das Tool- und Antwortformat von CrewAI. Wählen Sie ein Modell mit stärkeren Tool-Aufrufen wie Kimi K3 oder GLM-5.3, vereinfachen Sie die Tool-Beschreibungen und begrenzen Sie die Schritte mit \`max\_iter\` am Agenten. Ja. Legen Sie pro Modell ein \`LLM\` mit derselben \`base\_url\` und demselben Schlüssel an und übergeben Sie jedem Agenten das passende. Üblich ist ein starkes Modell für Manager und Planer und ein schnelles für einfache Arbeitsagenten. Ja. Setzen Sie \`stream=True\` am \`LLM\`, um Tokens während der Erzeugung zu erhalten. inference.eu streamt im Standardformat von Chat Completions, einschließlich des Token-Verbrauchs, den CrewAI anschließend für seine Nutzungsübersicht verwendet. [Frage stellen](https://inference.eu/de/kontakt/) ## Verwandte Seiten [Alle Integrationen](https://inference.eu/de/integrationen/) - [LangChainVerbinden Sie ChatOpenAI aus LangChain per base\_url mit inference.eu und betreiben Sie Chains, Agenten und LangGraph mit Open-Weight-Modellen aus der EU.Frameworks](https://inference.eu/de/integrationen/langchain/) - [Pydantic AIVerbinden Sie Pydantic-AI-Agenten über OpenAICompatibleProvider mit inference.eu und erhalten Sie typisierte Ausgaben von Open-Weight-Modellen aus der EU.Frameworks](https://inference.eu/de/integrationen/pydantic-ai/) - [LiteLLMFügen Sie inference.eu mit dem Präfix openai/ zum LiteLLM-Proxy oder Python-SDK hinzu und leiten Sie Anfragen an Open-Weight-Modelle aus der EU.Gateways](https://inference.eu/de/integrationen/litellm/) ## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten. - Antwort innerhalb eines Werktags - Preise für Ihr Volumen - AV-Vertrag unterschriftsreif