inference.eu

Chat · UTTER project (Instituto Superior Técnico, Unbabel, University of Edinburgh and partners)

EuroLLM 22B in der EU über eine OpenAI-kompatible API nutzen

EuroLLM 22B Instruct ist ein europäisches offenes Sprachmodell, das alle Amtssprachen der Europäischen Union verstehen und schreiben soll. Trainiert wurde es dank einer EuroHPC-Förderung auf dem Supercomputer MareNostrum 5. Auf inference.eu rufen Sie es im OpenAI- oder Anthropic-Format auf, verarbeitet in Rechenzentren in der EU.

Vertrieb kontaktierenBeispielanfrage
  1. 0122.6B
  2. 02Rechenzentren in der EU
  3. 03Apache 2.0

Was EuroLLM 22B ist

EuroLLM ist eine Familie offener Sprachmodelle eines Konsortiums europäischer Hochschulen und Unternehmen. Federführend ist das Instituto Superior Técnico in Lissabon, beteiligt sind unter anderem Unbabel, die University of Edinburgh, die Université Paris-Saclay, die Sorbonne Université und die Universität Amsterdam. Das Modell 22B Instruct in der Version 2512 hat rund 22,6 Milliarden Parameter und ein Kontextfenster von 32.768 Tokens.

Trainiert wurde es mit etwa 4 Billionen Tokens auf 400 H100-GPUs des MareNostrum 5 in Barcelona. Die Trainingsdaten verteilen sich bewusst auf alle 24 EU-Amtssprachen sowie elf weitere Sprachen, ergänzt um Paralleltexte für bessere Übersetzungen.

Stärken und Grenzen

Die Stärke von EuroLLM ist die Breite über europäische Sprachen. Viele Modelle sind in Englisch und wenigen großen Sprachen stark, EuroLLM liefert dagegen auch auf Estnisch, Lettisch, Maltesisch, Irisch, Slowenisch oder Kroatisch brauchbare Texte. Es eignet sich daher für Übersetzung, mehrsprachige Kundenkommunikation und Verwaltungsdienste, die alle EU-Sprachen gleich behandeln müssen.

Als dichtes 22B-Modell mit 32.000 Tokens Kontext ist es nicht für sehr lange Dokumente, Bildeingaben oder komplexes agentisches Programmieren gebaut. Bei Reasoning und Code schneiden größere Modelle wie Qwen3 oder Mistral Small 4 besser ab. Setzen Sie EuroLLM dort ein, wo Sprachabdeckung wichtiger ist als reine Denkleistung.

EuroLLM 22B über die API aufrufen

inference.eu verwendet das OpenAI-Anfrageformat. Die OpenAI-SDKs für Python und JavaScript, LangChain, LlamaIndex und andere kompatible Werkzeuge funktionieren daher unverändert. Setzen Sie die Base-URL auf die inference.eu-API, verwenden Sie Ihren inference.eu-Schlüssel und tragen Sie als Modell eurollm-22b-instruct ein.

Formulieren Sie Systemprompt und Nachrichten in der Sprache, in der Sie die Antwort erwarten, das Modell folgt der Gesprächssprache. Für Übersetzungen nennen Sie Ausgangs- und Zielsprache ausdrücklich im Prompt. Streaming funktioniert wie gewohnt, und auch das Anthropic-Messages-Format steht bereit.

Ein europäisches Modell, verarbeitet in der EU

EuroLLM wurde in Europa finanziert und trainiert, und auf inference.eu läuft es auch in Europa. Ihre Prompts und die Antworten werden in Rechenzentren in der Europäischen Union verarbeitet und nie zum Training eines Modells verwendet.

Jeder Kunde erhält einen Auftragsverarbeitungsvertrag nach Art. 28 DSGVO und unsere Liste der Unterauftragsverarbeiter, damit Sie die gesamte Verarbeitungskette dokumentieren können. Abgerechnet wird in Euro. Die Apache-2.0-Lizenz erlaubt die kommerzielle Nutzung ohne Nutzer- oder Umsatzgrenzen. Das passt zu Behörden und Unternehmen, die ein europäisches Modell ohne Zusatzauflagen suchen.

eurollm-22b-instruct · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="eurollm-22b-instruct",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)

Wofür Teams es einsetzen

  • 1

    Übersetzung zwischen EU-Sprachen

    Produkttexte, Bekanntmachungen und Korrespondenz zwischen allen 24 EU-Amtssprachen übersetzen, auch in kleinere wie Maltesisch und Irisch.

  • 2

    Mehrsprachige Bürgerdienste

    Fragen von Bürgerinnen, Bürgern oder Kunden in ihrer eigenen Sprache beantworten, mit demselben Assistenten für jeden Mitgliedstaat.

  • 3

    Lokalisierung von Inhalten

    Marketingtexte, Hilfeartikel und Dokumentation aus einem Ausgangstext für jeden europäischen Markt anpassen.

EuroLLM 22B Instruct: häufige Fragen

Die Fragen, die uns Einkauf, Entwicklung und Rechtsabteilungen am häufigsten stellen. Etwas fehlt? Fragen Sie uns direkt.

Frage stellen

Verwandte Seiten

Alle Modelle

Verlagern Sie Ihre KI-Workloads auf europäische Infrastruktur

Sagen Sie uns, welche Modelle Sie nutzen und wie viel Verkehr Sie ungefähr haben. Wir antworten innerhalb eines Werktags mit Preisen und nächsten Schritten.

  • Antwort innerhalb eines Werktags
  • Preise für Ihr Volumen
  • AV-Vertrag unterschriftsreif