---
title: "Teuken 7B DSGVO-konform in der EU nutzen"
description: "Teuken 7B Instruct, das deutsche KI-Modell aus OpenGPT-X für alle 24 EU-Amtssprachen, auf inference.eu über eine OpenAI-kompatible API nutzen."
canonical: "https://inference.eu/de/modelle/teuken-7b-instruct/"
language: "de"
---

Chat · OpenGPT-X (Fraunhofer, Forschungszentrum Jülich, TU Dresden, DFKI)

# Teuken 7B in der EU über eine OpenAI-kompatible API nutzen

Teuken 7B Instruct ist ein kompaktes mehrsprachiges Modell aus dem deutschen Forschungsprojekt OpenGPT-X, trainiert auf allen 24 Amtssprachen der EU. Die kommerzielle Version steht unter Apache 2.0. Auf inference.eu rufen Sie es im OpenAI- oder Anthropic-Format auf, verarbeitet in Rechenzentren in der EU und nie zum Training genutzt.

[Vertrieb kontaktieren](https://inference.eu/de/kontakt/)[Beispielanfrage](#example)

1.  017B
2.  02Rechenzentren in der EU
3.  03Apache 2.0

## Was Teuken 7B ist

Teuken 7B entstand im Projekt OpenGPT-X bei Fraunhofer, dem Forschungszentrum Jülich, der TU Dresden und dem DFKI, gefördert vom Bundesministerium für Wirtschaft und Klimaschutz. Es ist ein anweisungsoptimiertes Modell mit 7 Milliarden Parametern, vortrainiert auf rund 4 Billionen Tokens in allen 24 Amtssprachen der Europäischen Union.

Auf inference.eu stellen wir Teuken-7B-instruct-commercial-v0.4 bereit, die Version unter Apache 2.0 für kommerzielle und wissenschaftliche Nutzung. Die spätere Version v0.6 wurde mit mehr Daten trainiert, ist aber nur für nicht-kommerzielle Zwecke lizenziert. Das Instruktions-Tuning nutzte englische und deutsche Datensätze sowie Anweisungen in 22 weiteren Sprachen. Das Kontextfenster umfasst 4.096 Tokens.

## Stärken und Grenzen

Teuken setzt auf Ausgewogenheit über europäische Sprachen. Weil es nicht vorrangig für Englisch gebaut wurde, liefert es über die 24 EU-Sprachen hinweg gleichmäßigere Ergebnisse als viele Modelle seiner Größe. Dank der geringen Größe ist es günstig im Betrieb und passt zu kurzen Aufgaben in großer Menge, etwa Nachrichten klassifizieren, kurze Texte umformulieren oder einfache Fragen in vielen Sprachen beantworten.

Die Grenzen sind klar: Mit 4.000 Tokens Kontext liest es keine langen Dokumente, Bilder verarbeitet es nicht, und bei Reasoning, Code und komplexen Anweisungen liegt es deutlich hinter größeren, neueren Modellen. Die Modellkarte warnt zudem vor möglichen verzerrten Ausgaben. Für anspruchsvollere Aufgaben eignen sich EuroLLM 22B oder Mistral Small 4.

## Teuken 7B über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. Die OpenAI-SDKs, LangChain, LlamaIndex und ähnliche Werkzeuge funktionieren daher ohne Änderungen. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell `teuken-7b-instruct-commercial` ein.

Das Chat-Template von Teuken hat eine Spracheinstellung, die festlegt, in welcher Sprache der eingebaute Systemprompt formuliert ist. Halten Sie Ihre Prompts kurz, denn Systemprompt, Verlauf und Antwort müssen zusammen in 4.096 Tokens passen. Streaming funktioniert wie gewohnt, auch das Anthropic-Messages-Format steht bereit.

## Ein deutsches Modell, verarbeitet in der EU

Teuken wurde mit öffentlichen deutschen Mitteln auf europäischer Forschungsinfrastruktur entwickelt, und auf inference.eu läuft es ebenfalls in Europa. Ihre Prompts und die Antworten werden in Rechenzentren in der Europäischen Union verarbeitet und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter, damit Sie genau dokumentieren können, wer die Daten verarbeitet. Abgerechnet wird in Euro. Die kommerzielle Version v0.4 steht unter Apache 2.0 und erlaubt kommerzielle Nutzung ohne Nutzergrenzen. Verwechseln Sie sie nicht mit v0.6, deren Lizenz CC BY-NC 4.0 kommerzielle Nutzung ausschließt.

## Teuken 7B Instruct

Anbieter

OpenGPT-X (Fraunhofer, Forschungszentrum Jülich, TU Dresden, DFKI)

Herkunft

Deutschland

Typ

Chat

Parameter

7B

Kontextfenster

4.096 Tokens

Lizenz

[Apache 2.0](https://www.apache.org/licenses/LICENSE-2.0)

Modell-ID

teuken-7b-instruct-commercial

Verarbeitung

Rechenzentren in der EU

Training mit Ihren Daten

Nie

Quelle

[huggingface.co](https://huggingface.co/openGPT-X/Teuken-7B-instruct-commercial-v0.4)

teuken-7b-instruct-commercial · Python

```
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="teuken-7b-instruct-commercial",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)
```

## Wofür Teams es einsetzen

-   1

    ### Kurze mehrsprachige Antworten

    Kurze Antworten, Bestätigungen und Umformulierungen in jeder der 24 EU-Sprachen für Formulare, Chat-Widgets und Benachrichtigungen erzeugen.

-   2

    ### Nachrichten klassifizieren

    Eingehende Nachrichten nach Sprache, Thema oder Dringlichkeit sortieren, wenn ein kleines, günstiges Modell genügt.

-   3

    ### Forschung und öffentliche Projekte

    Ein Modell deutscher öffentlicher Forschungseinrichtungen für Projekte nutzen, die bewusst auf eine europäische Grundlage setzen.

## Teuken 7B Instruct: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Das hängt von Ihrer Verarbeitung ab. Auf inference.eu werden Anfragen an Teuken in Rechenzentren in der EU verarbeitet, nicht zum Training genutzt und durch einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO samt Liste der Unterauftragsverarbeiter abgedeckt. Damit haben Sie die vertragliche Grundlage für personenbezogene Daten.

Wir stellen Teuken-7B-instruct-commercial-v0.4 bereit, das unter Apache 2.0 für kommerzielle Nutzung veröffentlicht wurde. Das neuere Instruct-Modell v0.6 steht unter CC BY-NC 4.0 und ist nur für nicht-kommerzielle Zwecke erlaubt, für kommerzielle Produkte also ungeeignet.

Teuken 7B hat ein Kontextfenster von 4.096 Tokens. Das reicht für kurze Dialoge, E-Mails und Absätze, aber nicht für lange Dokumente. Für längere Eingaben nutzen Sie EuroLLM 22B mit 32.000 Tokens oder ein Modell mit langem Kontext wie Mistral Small 4.

Ja, die kommerzielle Version v0.4 steht unter Apache 2.0 und erlaubt kommerzielle Nutzung, Änderung und Weitergabe. Die Version v0.6 ist nur nicht-kommerziell nutzbar. Auf inference.eu verwenden Sie die kommerzielle Version und sind damit auf der sicheren Seite.

Alle 24 EU-Amtssprachen: Bulgarisch, Tschechisch, Dänisch, Deutsch, Griechisch, Englisch, Spanisch, Estnisch, Finnisch, Französisch, Irisch, Kroatisch, Ungarisch, Italienisch, Litauisch, Lettisch, Maltesisch, Niederländisch, Polnisch, Portugiesisch, Rumänisch, Slowakisch, Slowenisch und Schwedisch. Instruktionsdaten lagen vor allem auf Englisch und Deutsch vor.

Teuken entstand im Forschungsprojekt OpenGPT-X bei Fraunhofer, dem Forschungszentrum Jülich, der TU Dresden und dem Deutschen Forschungszentrum für Künstliche Intelligenz (DFKI). Gefördert wurde das Projekt vom Bundesministerium für Wirtschaft und Klimaschutz.

Beide sind europäische Modelle für alle EU-Sprachen. EuroLLM 22B ist etwa dreimal so groß, hat ein achtmal längeres Kontextfenster und liefert meist bessere Antworten. Teuken 7B ist kleiner und leichter, was für kurze, einfache Aufgaben in großer Menge genügen kann.

Eher nicht. Mit 7 Milliarden Parametern und 4.000 Tokens Kontext ist es für kurze, einfache Aufgaben gedacht. Für Reasoning, Programmierung oder lange Dokumente wählen Sie ein größeres Modell wie Mistral Small 4, Magistral Small oder Qwen3 235B.

Stellen Sie die Base-URL Ihres OpenAI-Clients auf die inference.eu-API um, verwenden Sie Ihren inference.eu-Schlüssel und setzen Sie als Modell \`teuken-7b-instruct-commercial\`. Halten Sie Prompts und Verlauf kurz, damit alles in 4.096 Tokens passt.

Nein. Anfragen an inference.eu dienen nur dazu, Ihre Antwort zu erzeugen. Sie werden nicht zum Training oder Feintuning von Teuken oder anderen Modellen genutzt und nicht an die Forschungseinrichtungen weitergegeben, die das Modell veröffentlicht haben.

[Frage stellen](https://inference.eu/de/kontakt/)

## Verwandte Seiten

[Alle Modelle](https://inference.eu/de/modelle/#directory)

-   [EuroLLM 22B InstructEuroLLM 22B Instruct, das europäische KI-Modell für alle 24 EU-Amtssprachen, auf inference.eu nutzen: OpenAI-kompatible API, Verarbeitung in der EU.Chat](https://inference.eu/de/modelle/eurollm-22b-instruct/)
-   [Apertus 1.5 70BApertus 1.5 70B, das vollständig offene Schweizer KI-Modell von EPFL und ETH Zürich, auf inference.eu nutzen: OpenAI-kompatible API, Verarbeitung in der EU.Chat](https://inference.eu/de/modelle/apertus-70b/)
-   [Mistral Small 4 119BMistral Small 4 119B vom französischen KI-Labor Mistral AI auf inference.eu: Reasoning, Bilder und Code in einem Modell, Verarbeitung in der EU.Chat](https://inference.eu/de/modelle/mistral-small-4-119b/)

## Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

-   Antwort innerhalb eines Werktags
-   Preise für Ihr Volumen
-   AV-Vertrag unterschriftsreif