Reasoning · OpenAI
gpt-oss-20b in der EU über eine OpenAI-kompatible API nutzen
gpt-oss-20b ist das kleinere der beiden Open-Weight-Reasoning-Modelle von OpenAI: 21 Milliarden Parameter, 3,6 Milliarden davon aktiv pro Token, veröffentlicht unter Apache 2.0. Auf inference.eu nutzen Sie es mit Ihrem bestehenden OpenAI-SDK, Ihre Prompts werden aber in Rechenzentren in der EU verarbeitet und nie zum Training verwendet.
- 0121B · 3.6B
- 02Rechenzentren in der EU
- 03Apache 2.0
Was gpt-oss-20b ist
OpenAI veröffentlichte gpt-oss-20b im August 2025 zusammen mit gpt-oss-120b. Es ist ein Mixture-of-Experts-Modell mit 21 Milliarden Parametern, von denen pro Token 3,6 Milliarden aktiv sind, und einem Kontextfenster von 128.000 Tokens. Die Expertengewichte wurden in MXFP4-Präzision nachtrainiert, das Modell passt daher in 16 GB Speicher.
Wie das größere Modell denkt es vor der Antwort nach, den Denkaufwand stellen Sie pro Anfrage auf niedrig, mittel oder hoch. Trainiert wurde es auf OpenAIs Harmony-Antwortformat, Function Calling und strukturierte Ausgaben unterstützt es nativ. Es verarbeitet ausschließlich Text. OpenAI sieht es für latenzkritische und spezialisierte Anwendungen vor.
Stärken und Grenzen
gpt-oss-20b ist ein schnelles, günstiges Reasoning-Modell für Alltagsaufgaben: Supportfragen beantworten, Felder als JSON extrahieren, Anfragen an Werkzeuge weiterleiten und kurze analytische Fragen klären. Mit nur 3,6 Milliarden aktiven Parametern antwortet es zügig, und dank einstellbarem Denkaufwand investieren Sie Rechenzeit nur dort, wo sie nötig ist.
Bei schwieriger Mathematik, umfangreichen Codeänderungen und breitem Weltwissen ist es deutlich schwächer als gpt-oss-120b, sein Wissensstand ist älter als der von Modellen aus 2026. Bilder und Audio verarbeitet es nicht. OpenAI veröffentlicht keine Liste unterstützter Sprachen, prüfen Sie die Qualität auf Deutsch daher vorab mit eigenen Inhalten.
gpt-oss-20b über die API aufrufen
Wenn Ihr Code das OpenAI-SDK verwendet, ändern Sie die Base-URL auf die inference.eu-API, nutzen Ihren inference.eu-Schlüssel und setzen als Modell gpt-oss-20b. Das Harmony-Format übernehmen wir, Sie senden und erhalten ganz normale Chat-Nachrichten.
Übergeben Sie reasoning_effort mit low für schnelle Antworten oder high für gründliche. Function Calling, JSON-Schema-Ausgaben und Streaming funktionieren wie in der API von OpenAI. Die Gedankenkette dient der Fehlersuche und ist nicht für Endnutzer gedacht, zeigen Sie in Ihrer Oberfläche daher nur die Antwort. Auch das Anthropic-Messages-Format steht bereit.
Datenhaltung in der EU
Auf inference.eu laufen die offenen Gewichte von gpt-oss-20b auf Infrastruktur in der Europäischen Union. Prompts und Antworten werden in Rechenzentren in der EU verarbeitet, nichts geht an OpenAI und nichts wird zum Training eines Modells verwendet. Das ist der wesentliche Unterschied zu den gehosteten Modellen von OpenAI.
Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter, damit Ihr Verzeichnis von Verarbeitungstätigkeiten alle Beteiligten nennen kann. Abgerechnet wird in Euro. Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung ohne Nutzergrenzen, ergänzt um eine kurze Nutzungsrichtlinie von OpenAI, die rechtmäßige Nutzung verlangt.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])
response = client.chat.completions.create(
model="gpt-oss-20b",
messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)Wofür Teams es einsetzen
- 1
Schnelle Supportantworten
Routinefragen von Kunden mit einem kurzen Denkschritt beantworten, bei einer Modellgröße, die Antwortzeiten niedrig hält.
- 2
Weiterleitung an Werkzeuge
Entscheiden, welche interne API oder welcher Workflow eine Anfrage übernimmt, und die Parameter als strukturiertes JSON ausfüllen.
- 3
Datenextraktion mit Plausibilitätsprüfung
Felder aus E-Mails und Dokumenten auslesen und kurz prüfen, ob die Werte zueinander passen.
gpt-oss-20b: häufige Fragen
Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.
Verwandte Seiten
- gpt-oss-120bOpenAIs offenes Reasoning-Modell gpt-oss-120b auf inference.eu: OpenAI-API-Format, Verarbeitung in Rechenzentren in der EU, Abrechnung in Euro.Reasoning
- Magistral Small 1.2Magistral Small 1.2, das offene 24B-Reasoning-Modell von Mistral AI, auf inference.eu über eine OpenAI-kompatible API nutzen, verarbeitet in der EU.Reasoning
- Gemma 4 26B A4BGoogles Gemma 4 26B A4B auf inference.eu: schnelles Mixture-of-Experts-Modell mit Bildeingabe und 256K Kontext, Verarbeitung in Rechenzentren in der EU.Vision
- Qwen3.6 35B A3BQwen3.6 35B A3B auf inference.eu: schnelles Mixture-of-Experts-Modell mit 3B aktiven Parametern, Bildeingabe und 256K Kontext, verarbeitet in der EU.Code
Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur
Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.
- Antwort innerhalb eines Werktags
- Preise für Ihr Volumen
- AV-Vertrag unterschriftsreif