inference.eu

Chat · Meta

Utilisez Llama 3.3 70B en Europe via une API compatible OpenAI

Llama 3.3 70B Instruct est le modèle texte de Meta à 70 milliards de paramètres, publié en décembre 2024 et toujours l'un des modèles ouverts les plus déployés. Sur inference.eu, vous l'appelez au format OpenAI ou Anthropic, vos requêtes sont traitées dans l'Union européenne et rien de ce que vous envoyez ne sert à l'entraînement.

Contacter l'équipeExemple de requête
  1. 0170B
  2. 02Centres de données dans l'UE
  3. 03Llama 3.3 Community License

Ce qu'est Llama 3.3 70B

Llama 3.3 70B Instruct est un modèle de langage dense de Meta, uniquement textuel, avec 70 milliards de paramètres et une fenêtre de contexte de 128 000 tokens. Il s'appuie sur Llama 3.1 70B et a été affiné pour suivre des instructions. Meta annonce la prise en charge de l'anglais, du français, de l'allemand, de l'italien, du portugais, de l'espagnol, de l'hindi et du thaï.

Comme il ne s'agit pas d'un modèle à mélange d'experts, chaque token traverse les 70 milliards de paramètres. Son comportement est donc prévisible et bien connu : des milliers d'équipes l'ont testé, et la plupart des frameworks et outils d'évaluation le prennent en charge sans réglage.

Points forts et limites

Llama 3.3 70B est un modèle polyvalent et fiable pour la conversation, le résumé, la classification, l'extraction d'informations et la rédaction dans les grandes langues d'Europe occidentale. Il respecte bien les prompts système, gère l'appel d'outils et produit un JSON propre, ce qui en fait le modèle par défaut de nombreux assistants internes.

Ce n'est plus le modèle ouvert le plus performant. Qwen3, Gemma 4 ou Mistral Small 4 raisonnent mieux, codent mieux et acceptent les images, ce que Llama 3.3 ne fait pas. Il n'a pas de mode de réflexion dédié : pour les mathématiques en plusieurs étapes ou les agents complexes, préférez un modèle de raisonnement. Choisissez-le pour une base éprouvée et stable.

Appeler Llama 3.3 70B via l'API

inference.eu utilise le format de requête OpenAI. Les SDK officiels OpenAI pour Python et JavaScript, LangChain, LlamaIndex et le Vercel AI SDK fonctionnent donc sans modification. Il suffit de remplacer l'URL de base par celle de l'API inference.eu, d'utiliser votre clé inference.eu et d'indiquer le modèle llama-3.3-70b-instruct.

Chat completions, streaming, appels d'outils et mode JSON fonctionnent comme d'habitude. Si votre code utilise le format Messages d'Anthropic, le même modèle y est aussi disponible : les outils conçus pour Claude passent à Llama 3.3 sans réécriture. Vos prompts, exemples et traitements des réponses restent identiques.

Hébergement en Europe et données

Lorsque vous appelez Llama 3.3 70B sur inference.eu, vos prompts et les réponses du modèle sont traités dans des centres de données situés dans l'Union européenne. Ils servent uniquement à répondre à votre requête et ne sont jamais utilisés pour entraîner un modèle.

Nous signons avec chaque client un accord de traitement des données au sens de l'article 28 du RGPD et fournissons la liste de nos sous-traitants. Votre DPO sait ainsi précisément qui traite les données et où. La facturation se fait en euros. La Llama 3.3 Community License comporte ses propres conditions, dont une politique d'utilisation acceptable et une obligation de mention.

llama-3.3-70b-instruct · Python
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.chat.completions.create(
    model="llama-3.3-70b-instruct",
    messages=[{"role": "user", "content": "Summarise this contract in five bullet points."}],
)
print(response.choices[0].message.content)

Ce que les équipes en font

  • 1

    Assistants internes

    Un modèle par défaut fiable pour les assistants d'entreprise qui répondent aux questions, reformulent et résument des documents en français, anglais, allemand, italien et espagnol.

  • 2

    Extraction structurée

    Extraire noms, dates, montants et clauses de courriels, factures et contrats sous forme de JSON exploitable par vos systèmes.

  • 3

    Référence pour une migration

    Un modèle de comparaison bien connu lorsque vous quittez un fournisseur américain et voulez évaluer la qualité modèle par modèle.

Llama 3.3 70B Instruct : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Poser une question

Pages liées

Tous les modèles

Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

  • Réponse sous un jour ouvré
  • Tarif adapté à votre volume
  • DPA prêt à signer