inference.eu

Reasoning · Mistral AI

Magistral Small in der EU über eine OpenAI-kompatible API nutzen

Magistral Small ist das offene Reasoning-Modell des Pariser KI-Unternehmens Mistral AI: ein Modell mit 24 Milliarden Parametern, das Aufgaben vor der Antwort durchdenkt und seit Version 1.2 auch Bilder versteht. Auf inference.eu rufen Sie es im OpenAI- oder Anthropic-Format auf, verarbeitet in Rechenzentren in der EU und nie zum Training genutzt.

Vertrieb kontaktierenBeispielanfrage
  1. 0124B
  2. 02Rechenzentren in der EU
  3. 03Apache 2.0

Was Magistral Small ist

Magistral Small 1.2, veröffentlicht im September 2025 als Magistral-Small-2509, basiert auf Mistral Small 3.2 und wurde gezielt für Reasoning weitertrainiert: zunächst mit überwachtem Feintuning auf Denkprotokollen des größeren Magistral Medium, dann mit Reinforcement Learning. Es ist ein dichtes Modell mit 24 Milliarden Parametern.

Vor der Antwort schreibt das Modell seinen Lösungsweg zwischen speziellen Denk-Tags auf und gibt danach die endgültige Antwort. Version 1.2 ergänzt einen Vision-Encoder, sodass es auch über Bilder nachdenken kann. Das Kontextfenster umfasst 128.000 Tokens, laut Mistral kann die Leistung jenseits von etwa 40.000 nachlassen. Lizenz: Apache 2.0.

Stärken und Grenzen

Magistral Small ist stark bei Aufgaben, die von schrittweisem Denken profitieren: Mathematik, Logik, Planung, Prüfen von Berechnungen und Begründen von Entscheidungen. Der Lösungsweg ist lesbar, was hilft, wenn Sie zeigen müssen, wie eine Antwort zustande kam. Es beherrscht Dutzende Sprachen, darunter Deutsch, Französisch, Italienisch, Spanisch, Polnisch und Portugiesisch, und bleibt dank seiner Größe vergleichsweise schlank.

Nachdenken kostet Tokens und Zeit, für einfachen Chat oder Datenextraktion ist es daher die falsche Wahl. Sehr lange Eingaben sind wegen des Leistungsabfalls ab etwa 40.000 Tokens eine Schwachstelle. Mistral Small 4 vereint inzwischen Reasoning, Bilder und Code in einem größeren Modell und ist für neue Projekte oft die bessere Standardwahl.

Magistral Small über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. Die OpenAI-SDKs, LangChain, LlamaIndex und andere kompatible Werkzeuge funktionieren daher unverändert. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell magistral-small ein.

Mistral empfiehlt den Standard-Systemprompt des Modells, der es zum Nachdenken vor der Antwort anleitet, sowie temperature 0,7 und top_p 0,95. Planen Sie bei max_tokens genug Platz für Denkprotokoll und Antwort ein. Bilder übergeben Sie als image_url-Inhalte. Auch das Anthropic-Messages-Format steht bereit.

Ein französisches Reasoning-Modell, verarbeitet in der EU

Magistral Small wird von Mistral AI in Frankreich entwickelt, und auf inference.eu läuft es ebenfalls in der Europäischen Union. Ihre Prompts, Bilder, das Denkprotokoll und die Antworten werden in Rechenzentren in der EU verarbeitet und nie zum Training eines Modells verwendet.

Mit jedem Kunden schließen wir einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und stellen unsere Liste der Unterauftragsverarbeiter bereit. Abgerechnet wird in Euro. Die Apache-2.0-Lizenz erlaubt kommerzielle Nutzung ohne Nutzer- oder Umsatzgrenzen. Sie können das Modell also in kostenpflichtigen Produkten, internen Werkzeugen und Kundendiensten einsetzen, ohne gesonderte Vereinbarung mit Mistral.

magistral-small · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="magistral-small",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)

Wofür Teams es einsetzen

  • 1

    Berechnungen und Pläne prüfen

    Angebote, Zeitpläne und Kalkulationen Schritt für Schritt prüfen und zeigen, wo eine Zahl oder Annahme nicht aufgeht.

  • 2

    Nachvollziehbare Entscheidungen

    Zu jeder Antwort einen schriftlichen Lösungsweg erzeugen, für Prüfer, die sehen müssen, warum eine Empfehlung zustande kam.

  • 3

    Nachhilfe in Mathematik und Technik

    Aufgaben aus Mathematik, Physik oder Ingenieurwesen durchrechnen, auch wenn sie als Foto oder Skizze vorliegen.

Magistral Small 1.2: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verwandte Seiten

Alle Modelle

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif