inference.eu

Vision · Google DeepMind

Gemma 4 31B in der EU über eine OpenAI-kompatible API nutzen

Gemma 4 31B ist das größte dichte Modell der Gemma-4-Familie von Google DeepMind, veröffentlicht im April 2026 unter der Apache-2.0-Lizenz. Es versteht Text und Bilder und verarbeitet 256.000 Tokens Kontext. Auf inference.eu rufen Sie es im OpenAI- oder Anthropic-Format auf, verarbeitet in Rechenzentren in der EU und nie zum Training genutzt.

Vertrieb kontaktierenBeispielanfrage
  1. 0130.7B
  2. 02Rechenzentren in der EU
  3. 03Apache 2.0

Was Gemma 4 31B ist

Gemma 4 ist die Familie offener Modelle von Google DeepMind, entwickelt auf Basis derselben Forschung wie Gemini 3. Das 31B-Modell ist das dichte Spitzenmodell: rund 30,7 Milliarden Parameter, ein Vision-Encoder mit etwa 550 Millionen Parametern und ein Kontextfenster von 256.000 Tokens. Text und Bilder lassen sich in einem Prompt beliebig kombinieren, die Ausgabe ist Text.

Die Architektur kombiniert lokale Sliding-Window-Attention mit globalen Attention-Schichten, damit der Speicherbedarf bei langen Eingaben beherrschbar bleibt. Google nennt Unterstützung für über 35 Sprachen, vortrainiert auf mehr als 140. Anders als frühere Gemma-Versionen steht Gemma 4 unter der Standardlizenz Apache 2.0.

Stärken und Grenzen

Gemma 4 31B ist ein leistungsfähiges mittelgroßes Modell für logisches Denken, Programmierung, Agenten-Workflows und Bildverständnis. Es liest Diagramme, Screenshots, gescannte Seiten und Fotos zusammen mit Text und eignet sich daher für Dokumentenprozesse, in denen Layout und Fließtext zusammenkommen. Die dichte Bauweise liefert gleichmäßige, berechenbare Qualität.

Da jedes Token alle 31 Milliarden Parameter durchläuft, rechnet es pro Token mehr als Mixture-of-Experts-Modelle wie Gemma 4 26B A4B. Audio verarbeitet es nicht, das können in der Gemma-4-Familie nur E2B, E4B und 12B. Für sehr lange agentische Programmiersitzungen reichen größere Modelle wie GLM-5.3 oder Kimi K3 weiter.

Gemma 4 31B über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. Die OpenAI-SDKs für Python und JavaScript, LangChain, LlamaIndex und das Vercel AI SDK funktionieren deshalb unverändert. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell gemma-4-31b ein.

Bilder senden Sie als image_url-Inhalte in derselben Nachricht wie Ihren Text, das Modell verarbeitet beides gemischt. Tool Calls, JSON-Ausgabe und Streaming funktionieren wie gewohnt. Nutzen Ihre Werkzeuge das Anthropic-Messages-Format, steht Gemma 4 31B auch dort bereit. Sie wechseln dann über Base-URL, Schlüssel und Modellname.

Datenhaltung in der EU

Gemma 4 wird von Google veröffentlicht, auf inference.eu läuft das Modell aber auf Infrastruktur in der Europäischen Union. Ihre Prompts, Bilder und die Antworten werden in Rechenzentren in der EU verarbeitet, nicht an Google übermittelt und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. So können Sie genau belegen, wer die Daten wo verarbeitet. Abgerechnet wird in Euro. Da Gemma 4 unter Apache 2.0 steht, gibt es keine Nutzungsschwellen oder zusätzlichen Verbotslisten jenseits des Gesetzes, was die Freigabe für kommerzielle Produkte vereinfacht.

gemma-4-31b · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="gemma-4-31b",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)

Wofür Teams es einsetzen

  • 1

    Dokumente und Formulare verstehen

    Rechnungen, Lieferscheine und Formulare als Bild einlesen und die benötigten Felder als strukturiertes JSON zurückgeben.

  • 2

    Support mit Bildern

    Nutzer laden einen Screenshot oder ein Foto ihres Problems hoch und erhalten eine Antwort, die das Bild berücksichtigt.

  • 3

    Agenten-Workflows

    Mehrstufige Abläufe planen und Werkzeuge aufrufen, mit einem dichten, berechenbaren Modell, das sich leichter testen lässt als ein großes.

Gemma 4 31B: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verwandte Seiten

Alle Modelle

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif