Chat · Mistral AI
Mistral Small 4 in der EU über eine OpenAI-kompatible API nutzen
Mistral Small 4 ist ein Mixture-of-Experts-Modell mit 119 Milliarden Parametern vom Pariser KI-Unternehmen Mistral AI. Es vereint Anweisungsbefolgung, Reasoning und Programmierung in einem Modell. Auf inference.eu rufen Sie es im OpenAI- oder Anthropic-Format auf, verarbeitet in Rechenzentren in der EU und nie zum Training genutzt.
- 01119B · 6.5B
- 02Rechenzentren in der EU
- 03Apache 2.0
Was Mistral Small 4 ist
Mistral Small 4, veröffentlicht als Mistral-Small-4-119B-2603, ist ein Mixture-of-Experts-Modell mit 128 Experten, von denen pro Token vier aktiv sind. Insgesamt hat es 119 Milliarden Parameter, rund 6,5 Milliarden davon rechnen pro Token. Das Kontextfenster umfasst 256.000 Tokens, und neben Text verarbeitet das Modell auch Bilder.
Laut Mistral führt es drei bisher getrennte Modellfamilien zusammen: die allgemeinen Instruct-Modelle, die Reasoning-Modelle Magistral und die Programmiermodelle Devstral. Wie viel das Modell nachdenkt, legen Sie pro Anfrage fest. Ein Modell deckt so schnelle Antworten und schwierige mehrstufige Aufgaben ab. Die Gewichte stehen unter der Apache-2.0-Lizenz.
Stärken und Grenzen
Mistral Small 4 eignet sich für Unternehmen, die ein vielseitiges Modell suchen: Chat, Dokumentenanalyse, Programmierhilfe, Bildverständnis und Tool-Aufrufe für Agenten. Die Modellkarte nennt über zwanzig Sprachen, darunter Deutsch, Englisch, Französisch, Spanisch, Italienisch, Portugiesisch, Polnisch, Rumänisch und Schwedisch. Systemprompts befolgt es genau.
Mit rund 6,5 Milliarden aktiven Parametern ist es effizient, erreicht aber bei langen, schwierigen agentischen Programmieraufgaben nicht die Tiefe sehr großer offener Modelle wie GLM-5.3 oder Kimi K3. Der Reasoning-Modus erzeugt zusätzliche Tokens und kostet Zeit, schalten Sie ihn für einfache Anfragen also ab. Bilder liest das Modell, erzeugt aber keine.
Mistral Small 4 über die API aufrufen
inference.eu verwendet das OpenAI-Anfrageformat. Die OpenAI-SDKs, LangChain, LlamaIndex, das Vercel AI SDK und Mistral-kompatible Werkzeuge mit frei wählbarer Base-URL funktionieren deshalb direkt. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell mistral-small-4-119b ein.
Bilder senden Sie als image_url-Inhalte, genau wie bei den Vision-Modellen von OpenAI. Mit dem Parameter reasoning_effort bestimmen Sie pro Anfrage, wie gründlich das Modell nachdenkt. Tool Calls, Streaming und JSON-Ausgabe funktionieren wie gewohnt, das Anthropic-Messages-Format steht ebenfalls bereit.
Ein französisches Modell, verarbeitet in der EU
Mistral Small 4 gehört zu den wenigen starken offenen Modellen aus Europa. Auf inference.eu läuft es auch in Europa: Ihre Prompts, Bilder und die Antworten werden in Rechenzentren in der Europäischen Union verarbeitet und nie zum Training eines Modells verwendet.
Mit jedem Kunden schließen wir einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und stellen die Liste unserer Unterauftragsverarbeiter bereit. So dokumentieren Sie die Datenflüsse sauber in Ihrem Verzeichnis von Verarbeitungstätigkeiten. Abgerechnet wird in Euro. Die Apache-2.0-Lizenz erlaubt die kommerzielle Nutzung ohne Nutzer- oder Umsatzgrenzen, die rechtliche Prüfung bleibt also kurz.
import os
from openai import OpenAI
client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])
response = client.chat.completions.create(
model="mistral-small-4-119b",
messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)Wofür Teams es einsetzen
- 1
Ein Modell für das ganze Produkt
Chat, Zusammenfassungen, Fragen zu Bildern und Tool-Aufrufe mit einem einzigen Modell abdecken, statt für jede Aufgabe ein eigenes zu pflegen.
- 2
Analyse von Dokumenten und Screenshots
Gescannte Formulare, Diagramme und Screenshots zusammen mit Textanweisungen auswerten und strukturierte Antworten erhalten.
- 3
Assistenten in europäischen Sprachen
Assistenten für deutsch-, französisch-, spanisch-, italienisch- oder polnischsprachige Nutzer auf einem Modell eines europäischen KI-Labors aufbauen.
Mistral Small 4 119B: häufige Fragen
Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.
Verwandte Seiten
- Magistral Small 1.2Magistral Small 1.2, das offene 24B-Reasoning-Modell von Mistral AI, auf inference.eu über eine OpenAI-kompatible API nutzen, verarbeitet in der EU.Reasoning
- Devstral Small 2Devstral Small 2, das offene 24B-Coding-Modell von Mistral AI, auf inference.eu: OpenAI- und Anthropic-API, Verarbeitung in Rechenzentren in der EU.Code
- Gemma 4 26B A4BGoogles Gemma 4 26B A4B auf inference.eu: schnelles Mixture-of-Experts-Modell mit Bildeingabe und 256K Kontext, Verarbeitung in Rechenzentren in der EU.Vision
- EuroLLM 22B InstructEuroLLM 22B Instruct, das europäische KI-Modell für alle 24 EU-Amtssprachen, auf inference.eu nutzen: OpenAI-kompatible API, Verarbeitung in der EU.Chat
Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur
Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.
- Antwort innerhalb eines Werktags
- Preise für Ihr Volumen
- AV-Vertrag unterschriftsreif