---
title: "Llama 3.3 70B DSGVO-konform in der EU nutzen"
description: "Llama 3.3 70B Instruct von Meta über eine OpenAI-kompatible API auf inference.eu nutzen: Verarbeitung in Rechenzentren in der EU, Abrechnung in Euro."
canonical: "https://inference.eu/de/modelle/llama-3-3-70b-instruct/"
language: "de"
---

Chat · Meta

# Llama 3.3 70B in der EU über eine OpenAI-kompatible API nutzen

Llama 3.3 70B Instruct ist Metas Textmodell mit 70 Milliarden Parametern, veröffentlicht im Dezember 2024 und bis heute eines der meistgenutzten offenen KI-Modelle. Auf inference.eu rufen Sie es im OpenAI- oder Anthropic-Format auf, die Verarbeitung erfolgt in Rechenzentren in der EU und Ihre Daten fließen nicht ins Training.

[Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Beispielanfrage](#example)

1.  0170B
2.  02Rechenzentren in der EU
3.  03Llama 3.3 Community License

## Was Llama 3.3 70B ist

Llama 3.3 70B Instruct ist ein dichtes, rein textbasiertes Sprachmodell von Meta mit 70 Milliarden Parametern und einem Kontextfenster von 128.000 Tokens. Es baut auf Llama 3.1 70B auf und ist für Anweisungen und Dialoge trainiert. Offiziell unterstützt werden Englisch, Deutsch, Französisch, Italienisch, Portugiesisch, Spanisch, Hindi und Thai.

Da es kein Mixture-of-Experts-Modell ist, durchläuft jedes Token alle 70 Milliarden Parameter. Das Verhalten ist dadurch gut vorhersehbar und seit der Veröffentlichung von unzähligen Teams erprobt. Nahezu alle Frameworks, Prompt-Bibliotheken und Evaluierungswerkzeuge unterstützen das Modell ohne Anpassung.

## Stärken und Grenzen

Llama 3.3 70B ist ein verlässlicher Allrounder für Chat, Zusammenfassungen, Klassifizierung, Informationsextraktion und Textentwürfe in den großen westeuropäischen Sprachen. Es hält sich zuverlässig an Systemprompts, unterstützt Tool Calling und liefert sauberes JSON. Deshalb dient es in vielen Unternehmen als Standardmodell für interne Assistenten.

Das stärkste offene Modell ist es nicht mehr. Neuere Modelle wie Qwen3, Gemma 4 oder Mistral Small 4 schlussfolgern besser, programmieren besser und verarbeiten Bilder, was Llama 3.3 nicht kann. Einen eigenen Denkmodus gibt es nicht, für mehrstufige Mathematik oder komplexe Agenten eignet sich ein Reasoning-Modell besser. Wählen Sie Llama 3.3, wenn Sie eine erprobte, stabile Basis suchen.

## Llama 3.3 70B über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. Die offiziellen OpenAI-SDKs für Python und JavaScript, LangChain, LlamaIndex und das Vercel AI SDK funktionieren daher ohne Änderungen. Sie setzen die Base-URL auf die inference.eu-API, verwenden Ihren inference.eu-Schlüssel und tragen als Modell `llama-3.3-70b-instruct` ein.

Chat Completions, Streaming, Tool Calls und JSON-Modus funktionieren wie gewohnt. Nutzt Ihr Code das Anthropic-Messages-Format, steht dasselbe Modell auch dort bereit. Werkzeuge, die für Claude gebaut wurden, können so ohne Umbau auf Llama 3.3 wechseln. Prompts, Beispiele und Ihre Auswertung der Antworten bleiben unverändert.

## Datenhaltung in der EU

Wenn Sie Llama 3.3 70B auf inference.eu aufrufen, werden Ihre Prompts und die Antworten des Modells in Rechenzentren in der Europäischen Union verarbeitet. Sie dienen ausschließlich der Beantwortung Ihrer Anfrage und werden nie zum Training eines Modells verwendet.

Mit jedem Kunden schließen wir einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und stellen unsere Liste der Unterauftragsverarbeiter bereit. Ihr Datenschutzbeauftragter sieht so genau, wer die Daten wo verarbeitet. Abgerechnet wird in Euro. Beachten Sie, dass die Llama 3.3 Community License eigene Bedingungen enthält, etwa eine Acceptable Use Policy und eine Pflicht zur Namensnennung.

## Llama 3.3 70B Instruct

Anbieter

Meta

Herkunft

Vereinigte Staaten

Typ

Chat

Parameter

70B

Kontextfenster

131.072 Tokens

Lizenz

[Llama 3.3 Community License](https://www.llama.com/llama3_3/license/)

Veröffentlicht

Dezember 2024

Modell-ID

llama-3.3-70b-instruct

Verarbeitung

Rechenzentren in der EU

Training mit Ihren Daten

Nie

Quelle

[huggingface.co](https://huggingface.co/meta-llama/Llama-3.3-70B-Instruct)

llama-3.3-70b-instruct · Python

```
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="llama-3.3-70b-instruct",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)
```

## Wofür Teams es einsetzen

-   1

    ### Interne KI-Assistenten

    Ein verlässliches Standardmodell für Unternehmens-Chats, die Fragen beantworten, Texte umformulieren und Dokumente zusammenfassen, auf Deutsch, Englisch, Französisch, Italienisch und Spanisch.

-   2

    ### Strukturierte Datenextraktion

    Namen, Daten, Beträge und Klauseln aus E-Mails, Rechnungen und Verträgen als JSON auslesen, das Ihre Systeme direkt weiterverarbeiten.

-   3

    ### Referenz bei der Migration

    Ein bekanntes Vergleichsmodell, wenn Sie eine Anwendung von einem US-Anbieter umziehen und die Qualität Modell für Modell prüfen wollen.

## Llama 3.3 70B Instruct: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Ob der Einsatz DSGVO-konform ist, hängt von Ihrer Nutzung ab, nicht vom Modell allein. Auf inference.eu werden Anfragen in Rechenzentren in der EU verarbeitet, nicht für Training genutzt und durch einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO mit Liste der Unterauftragsverarbeiter abgedeckt. Damit haben Sie die vertragliche Grundlage für personenbezogene Daten.

Llama 3.3 70B Instruct verarbeitet bis zu 128.000 Tokens, genau 131.072. Das reicht für lange Verträge, komplette Support-Verläufe oder mehrere Berichte in einer Anfrage. Prompt und Antwort müssen zusammen in dieses Fenster passen.

Ja. Die Llama 3.3 Community License erlaubt kommerzielle Nutzung. Nur Unternehmen, deren Produkte bei Erscheinen von Llama 3.3 mehr als 700 Millionen monatlich aktive Nutzer hatten, brauchen eine eigene Lizenz von Meta. Außerdem gelten Metas Acceptable Use Policy und die geforderte Namensnennung.

Ja, Deutsch gehört zu den acht offiziell unterstützten Sprachen, neben Englisch, Französisch, Italienisch, Portugiesisch, Spanisch, Hindi und Thai. Für Polnisch, Tschechisch, die nordischen oder baltischen Sprachen sind EuroLLM, Teuken oder Apertus mit deutlich mehr europäischen Trainingsdaten die bessere Wahl.

Sie ändern in Ihrem bestehenden OpenAI-Client nur zwei Dinge: die Base-URL, die auf die inference.eu-API zeigt, und den API-Schlüssel. Anschließend setzen Sie als Modell \`llama-3.3-70b-instruct\`. Nachrichten, Tools und Streaming-Code bleiben gleich.

Nein, Llama 3.3 70B ist ein reines Textmodell. Für Screenshots, gescannte Dokumente oder Fotos eignen sich multimodale Modelle wie Gemma 4 31B, Qwen3.6 27B oder Mistral Small 4, für Dokumente auch DeepSeek-OCR 2.

Qwen3 235B A22B Instruct ist ein Mixture-of-Experts-Modell mit deutlich mehr Parametern, einem Kontext von 256.000 Tokens und besseren Ergebnissen bei Code und logischem Denken. Llama 3.3 ist kleiner, älter und einfacher, dafür sehr berechenbar. Testen Sie beide mit Ihren eigenen Prompts.

Ja. Llama 3.3 wurde auf Tool-Aufrufe trainiert. Auf inference.eu übergeben Sie Werkzeuge im üblichen OpenAI-Parameter \`tools\` und erhalten Tool Calls im bekannten Format zurück. Agenten-Frameworks, die mit OpenAI-Modellen laufen, funktionieren daher auch mit Llama 3.3.

Nein. Was Sie an inference.eu senden, dient nur dazu, Ihre Antwort zu erzeugen. Es wird weder zum Training noch zum Feintuning von Llama 3.3 oder einem anderen Modell genutzt und nicht an Meta weitergegeben. Meta stellt nur die Gewichte bereit und ist an der Verarbeitung nicht beteiligt.

Sie zahlen pro Token für Ein- und Ausgabe, alle Modelle erscheinen auf einer gemeinsamen Rechnung in Euro. Einen eigenen Vertrag pro Modell brauchen Sie nicht. Bei großen Volumen sprechen Sie uns gern auf individuelle Konditionen an.

[Frage stellen](https://inference.eu/de/kontakt/)

## Verwandte Seiten

[Alle Modelle](https://inference.eu/de/modelle/#directory)

-   [Qwen3 235B A22B InstructQwen3 235B A22B Instruct (2507) auf inference.eu: offenes KI-Modell mit 256K Kontext, OpenAI-kompatible API, Verarbeitung in Rechenzentren in der EU.Chat](https://inference.eu/de/modelle/qwen3-235b-a22b-instruct/)
-   [Mistral Small 4 119BMistral Small 4 119B vom französischen KI-Labor Mistral AI auf inference.eu: Reasoning, Bilder und Code in einem Modell, Verarbeitung in der EU.Chat](https://inference.eu/de/modelle/mistral-small-4-119b/)
-   [Gemma 4 31BGoogles Gemma 4 31B auf inference.eu: offenes multimodales KI-Modell mit 256K Kontext, OpenAI-kompatible API, Verarbeitung in Rechenzentren in der EU.Vision](https://inference.eu/de/modelle/gemma-4-31b/)
-   [EuroLLM 22B InstructEuroLLM 22B Instruct, das europäische KI-Modell für alle 24 EU-Amtssprachen, auf inference.eu nutzen: OpenAI-kompatible API, Verarbeitung in der EU.Chat](https://inference.eu/de/modelle/eurollm-22b-instruct/)

## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

-   Antwort innerhalb eines Werktags
-   Preise für Ihr Volumen
-   AV-Vertrag unterschriftsreif