inference.eu

Guides · Reasoning models

Modèles de raisonnement : des modèles ouverts qui réfléchissent, dans l'UE

Les modèles de raisonnement décomposent un problème étape par étape avant de répondre. Plus lents et plus gourmands en tokens que les modèles de chat classiques, ils sont nettement meilleurs en mathématiques, en planification en plusieurs étapes, sur du code difficile et sur les questions où la première idée est souvent fausse. Avec l'API inference.eu, vous réglez l'intensité de leur réflexion et voyez combien de tokens elle a consommés.

Contacter l'équipeExemple de requête
  1. 01Format d'API: OpenAI et Anthropic
  2. 02Centres de données dans l'UE
  3. 03Couvert par un seul DPA
reasoning.py
import os
from openai import OpenAI

client = OpenAI(base_url="https://api.inference.eu/v1", api_key=os.environ["INFERENCE_EU_API_KEY"])

response = client.responses.create(
    model="gpt-oss-120b",
    reasoning={"effort": "high"},
    max_output_tokens=8000,
    input=(
        "A warehouse ships 1,240 parcels a day. 3.5% are returned, and each return costs "
        "EUR 7.80 to process. A new packaging change cuts returns by a fifth but adds "
        "EUR 0.12 per parcel. Is the change worth it over a 250-day working year?"
    ),
)

print(response.output_text)
print("reasoning tokens:", response.usage.output_tokens_details.reasoning_tokens)

Comment fonctionnent les modèles de raisonnement

Lorsque vous interrogez un modèle de raisonnement comme gpt-oss-120b, il génère d'abord des tokens de raisonnement : une chaîne de pensée interne où il essaie des pistes, vérifie ses résultats et corrige ses erreurs. Il rédige ensuite la réponse finale. Les deux types de tokens sont générés sur notre infrastructure dans l'UE et comptent comme tokens de sortie.

Vous utilisez les mêmes points de terminaison que pour tout autre modèle : chat completions, Responses ou Messages. La différence porte sur le réglage des limites et la lecture de la réponse. Le raisonnement aide surtout sur les problèmes dont la solution se vérifie ; pour reformuler ou classer, un modèle standard est plus rapide et moins cher.

Régler l'effort de raisonnement

Dans l'API Responses, réglez reasoning.effort sur low, medium ou high ; dans chat completions, le champ équivalent est reasoning_effort. Un effort faible donne des réponses rapides avec une courte chaîne de pensée ; un effort élevé laisse le modèle réfléchir plus longtemps sur les problèmes ardus. Commencez par medium et ajustez tâche par tâche selon la qualité mesurée.

Prévoyez un max_output_tokens (ou max_tokens dans chat completions) généreux, car la limite couvre le raisonnement et la réponse. Un problème difficile en effort élevé peut consommer des milliers de tokens de raisonnement avant le premier mot de la réponse. Avec une limite trop basse, la réponse s'arrête avant même d'apparaître.

Lire la réponse

Dans l'API Responses, output contient un élément reasoning suivi du message portant la réponse, et output_text ne renvoie que la réponse. usage.output_tokens_details.reasoning_tokens indique combien de tokens la réflexion a consommés : c'est le chiffre à surveiller pour le coût et la vitesse.

Les modèles ouverts peuvent renvoyer le texte de leur raisonnement, utile pour déboguer les prompts et garder une trace d'audit, mais montrez-le aux utilisateurs avec prudence : il contient des idées abandonnées et des faux départs. Pour poursuivre un échange avec des appels d'outils, transmettez les éléments de raisonnement via previous_response_id afin que le modèle garde le fil. Dans chat completions, ne renvoyez pas l'ancien raisonnement dans content.

Erreurs et cas particuliers

Le problème le plus courant est une réponse vide ou incomplète due à une limite de tokens trop basse : dans Responses, status vaut incomplete ; dans chat completions, finish_reason vaut length. Augmentez la limite ou baissez l'effort.

Les modèles de raisonnement mettent plus de temps avant le premier token visible : ajustez les délais d'attente du client et diffusez en streaming si l'utilisateur attend. Certains réglages d'échantillonnage, comme une temperature très élevée, nuisent à un raisonnement soigné ; gardez les valeurs par défaut sauf raison précise. Envoyer reasoning_effort à un modèle sans raisonnement renvoie une erreur 400 ou est ignoré, selon le modèle.

Reasoning models : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Poser une question

Pages liées

Présentation de l'API

Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

  • Réponse sous un jour ouvré
  • Tarif adapté à votre volume
  • DPA prêt à signer