inference.eu

Spracherkennung · Mistral AI

Voxtral Small in der EU für Transkription und Audioverständnis nutzen

Voxtral Small ist das offene Sprachmodell von Mistral AI für Audio: Es transkribiert, beantwortet Fragen zu Aufnahmen und fasst sie zusammen, und es behält die Textfähigkeiten von Mistral Small. Auf inference.eu nutzen Sie es über eine OpenAI-kompatible API. Ihre Aufnahmen werden in Rechenzentren in der EU verarbeitet und nie zum Training genutzt.

  1. 0124B
  2. 02Rechenzentren in der EU
  3. 03Apache 2.0

Was Voxtral Small ist

Voxtral Small 1.0, im Juli 2025 als Voxtral-Small-24B-2507 veröffentlicht, ist ein Modell mit 24 Milliarden Parametern von Mistral AI, das dem Sprachmodell Mistral Small 3 Audioeingabe hinzufügt. Es arbeitet in einem eigenen Transkriptionsmodus oder nimmt Audio und Text gemeinsam auf, um Fragen zu beantworten, zusammenzufassen oder gesprochenen Anweisungen zu folgen.

Das Kontextfenster umfasst 32.000 Tokens, laut Mistral genug für etwa 30 Minuten Audio bei der Transkription und 40 Minuten beim Audioverständnis. Die gesprochene Sprache erkennt es automatisch, am stärksten ist es in Englisch, Spanisch, Französisch, Portugiesisch, Hindi, Deutsch, Niederländisch und Italienisch. Lizenz: Apache 2.0.

Stärken und Grenzen

Gegenüber reinen Transkriptionsmodellen versteht Voxtral, was es hört. Sie erhalten in einer Anfrage die Zusammenfassung eines Telefonats, die Aufgaben aus einem Meeting oder die Antwort auf eine Frage aus einer Sprachnachricht, ohne separates Sprachmodell. Auch Funktionsaufrufe kann es direkt aus gesprochenen Anliegen auslösen.

Für reine Transkription ist es ein großes Modell. Bei hohem Volumen ist ein kleineres, spezialisiertes Modell wie Whisper Large V3 Turbo oft effizienter. Aufnahmen über etwa 30 bis 40 Minuten müssen Sie aufteilen. Laut Mistral werden Systemprompts noch nicht unterstützt, Anweisungen gehören daher in die Nutzernachricht.

Voxtral Small über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. Für reine Transkription senden Sie die Audiodatei an den Transkriptions-Endpunkt im OpenAI-Stil und setzen als Modell voxtral-small-24b, genau wie bei den Sprachmodellen von OpenAI, nachdem Sie Base-URL und Schlüssel geändert haben.

Für Fragen zu einer Aufnahme senden Sie das Audio als input_audio-Inhalt in einer Chat-Nachricht zusammen mit Ihrer Textfrage. Mehrere Audioclips und mehrere Gesprächsrunden werden unterstützt. Mistral empfiehlt temperature 0 für Transkription und etwa 0,2 für Verständnisaufgaben. Werkzeugdefinitionen funktionieren wie bei jedem Chatmodell.

Aufnahmen werden in der EU verarbeitet

Sprachaufnahmen enthalten oft Namen, Gesundheitsangaben oder Kundendaten, und schon die Stimme kann ein personenbezogenes Datum sein. Mit Voxtral Small auf inference.eu werden Audio und Transkripte in Rechenzentren in der Europäischen Union verarbeitet, nur für Ihr Ergebnis genutzt und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. Abgerechnet wird in Euro. Voxtral Small stammt aus Frankreich und steht unter Apache 2.0, kommerzielle Nutzung ist ohne Nutzergrenzen erlaubt. Die Information der Aufgenommenen über die Aufzeichnung bleibt Ihre Aufgabe.

voxtral-small-24b · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

with open("meeting.mp3", "rb") as audio:
    transcript = client.audio.transcriptions.create(model="voxtral-small-24b", file=audio)
print(transcript.text)

Wofür Teams es einsetzen

  • 1

    Protokolle von Meetings und Telefonaten

    Aufgezeichnete Meetings oder Support-Gespräche in einer Anfrage in eine Zusammenfassung mit Entscheidungen und Aufgaben verwandeln.

  • 2

    Sprachnotizen als Aufgaben

    Außendienstmitarbeiter sprechen eine Notiz ein, die transkribiert, verstanden und in ein Ticket oder einen Funktionsaufruf umgewandelt wird.

  • 3

    Mehrsprachige Transkription

    Interviews und Telefonate auf Deutsch, Englisch, Französisch, Spanisch, Italienisch, Niederländisch oder Portugiesisch mit automatischer Spracherkennung transkribieren.

Voxtral Small 24B: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif