inference.eu

Spracherkennung · OpenAI

Whisper Large V3 Turbo in der EU über eine OpenAI-kompatible API nutzen

Whisper Large V3 Turbo ist die schnellere Version von OpenAIs offenem Spracherkennungsmodell Whisper Large V3, veröffentlicht unter der MIT-Lizenz. Auf inference.eu rufen Sie es im selben Format auf wie die Transkriptions-API von OpenAI. Ihre Aufnahmen werden in Rechenzentren in der EU verarbeitet und nie zum Training genutzt.

Vertrieb kontaktierenBeispielanfrage
  1. 01809M
  2. 02Rechenzentren in der EU
  3. 03MIT

Was Whisper Large V3 Turbo ist

Whisper ist OpenAIs Familie offener Modelle für automatische Spracherkennung und Sprachübersetzung. Large V3 Turbo erschien im Oktober 2024 und ist eine verkleinerte, nachtrainierte Version von Whisper Large V3: dasselbe Modell, nur mit 4 statt 32 Decoder-Schichten. Dadurch ist es deutlich schneller und hat insgesamt rund 809 Millionen Parameter.

Es transkribiert Sprache in der gesprochenen Sprache und kann Sprache in englischen Text übersetzen. Die Modellkarte nennt 99 Sprachen. Whisper verarbeitet Audio in 30-Sekunden-Fenstern, längere Aufnahmen werden abschnittsweise transkribiert, was die Serverseite für Sie übernimmt. Die Gewichte stehen unter der MIT-Lizenz.

Stärken und Grenzen

Whisper ist die Standardwahl, um Aufnahmen in Text zu verwandeln: Meetings, Interviews, Sprachnachrichten, Podcasts und Support-Gespräche. In den großen europäischen Sprachen kommt es gut mit Akzenten und Hintergrundgeräuschen zurecht, setzt Satzzeichen und liefert auf Wunsch Zeitstempel für Untertitel. Die Turbo-Version behält einen Großteil der Genauigkeit von Large V3 bei viel höherem Tempo.

Es transkribiert oder übersetzt nur, Zusammenfassungen oder Antworten auf Fragen zum Inhalt liefert es nicht. Dafür nutzen Sie Voxtral Small oder geben das Transkript an ein Sprachmodell weiter. Übersetzt wird nur ins Englische. Bei Sprachen mit wenig Trainingsdaten sinkt die Genauigkeit, und in langen Pausen oder sehr lauten Passagen kann es gelegentlich Wörter erfinden.

Whisper über die API aufrufen

inference.eu unterstützt das Anfrageformat der OpenAI-Transkription. Code, der bereits die Speech-to-Text-API von OpenAI nutzt, funktioniert daher weiter. Ändern Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und setzen Sie als Modell whisper-large-v3-turbo.

Laden Sie die Audiodatei hoch, optional mit dem Parameter language, der Genauigkeit und Tempo verbessert, wenn Sie die gesprochene Sprache kennen. Fordern Sie Zeitstempel an, wenn Sie Untertitel brauchen. Für Übersetzungen ins Englische nutzen Sie die Übersetzungsanfrage statt der Transkription. Die OpenAI-SDKs für Python und JavaScript unterstützen beides direkt.

Aufnahmen werden in der EU verarbeitet

Whisper wurde von OpenAI trainiert, auf inference.eu laufen die offenen Gewichte aber auf Infrastruktur in der Europäischen Union. Ihre Audiodateien und Transkripte werden in Rechenzentren in der EU verarbeitet, nicht an OpenAI gesendet und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter. Das ist wichtig bei Aufnahmen mit Namen, Gesundheitsangaben oder Kundendaten. Abgerechnet wird in Euro. Die MIT-Lizenz erlaubt kommerzielle Nutzung ohne Einschränkung. Die Information der Aufgenommenen und die Rechtsgrundlage der Aufzeichnung bleiben Ihre Aufgabe.

whisper-large-v3-turbo · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

with open("meeting.mp3", "rb") as audio:
    transcript = client.audio.transcriptions.create(model="whisper-large-v3-turbo", file=audio)
print(transcript.text)

Wofür Teams es einsetzen

  • 1

    Protokolle von Meetings und Interviews

    Aufgezeichnete Meetings, Interviews und Anhörungen in durchsuchbaren Text mit Zeitstempeln verwandeln.

  • 2

    Untertitel für Videos

    Zeitgenaue Untertitel für Schulungsvideos, Webinare und Marketinginhalte erstellen, in der Originalsprache oder auf Englisch.

  • 3

    Auswertung im Callcenter

    Support-Gespräche in großer Menge transkribieren und den Text danach von einem Sprachmodell zusammenfassen und verschlagworten lassen.

Whisper Large V3 Turbo: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verwandte Seiten

Alle Modelle

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif