inference.eu

POST /v1/responses

Outil de recherche web : des réponses à jour et sourcées, depuis l'UE

Un modèle de langage ne connaît que ses données d'entraînement. L'outil de recherche web lui permet de vérifier des informations pendant qu'il répond : réglementation récente, tarifs sur le site d'un fournisseur, notes de version ou actualité du jour. Vous ajoutez une entrée au tableau `tools` d'une requête Responses, et la réponse revient avec des citations des pages utilisées.

  1. 01Format d'API: OpenAI
  2. 02Centres de données dans l'UE
  3. 03Couvert par un seul DPA
POST /v1/responses
curl https://api.inference.eu/v1/responses \
  -H "Authorization: Bearer $INFERENCE_EU_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-oss-120b",
    "tools": [{
      "type": "web_search",
      "user_location": {"type": "approximate", "country": "DE", "city": "Berlin"}
    }],
    "input": "What changed in the German e-invoicing rules for B2B companies this year? Cite your sources."
  }'

Ce que fait l'outil

Ajoutez {"type": "web_search"} à tools dans une requête POST /v1/responses. Le modèle décide si une recherche est nécessaire. Le cas échéant, l'API lance une ou plusieurs recherches depuis notre infrastructure dans l'UE, lit les résultats pertinents et transmet leur contenu au modèle, qui rédige sa réponse à partir de ces sources.

Les recherches apparaissent dans output sous forme d'éléments web_search_call avec leur status. La réponse est un élément message dont le contenu output_text porte des annotations de type url_citation, chacune avec l'url, le title de la page et les positions start_index et end_index du passage concerné.

Les réglages clés

user_location, avec type: "approximate" et des champs comme country, city et region, rend les résultats plus pertinents pour un lieu donné, ce qui compte pour le droit local, les commerces ou les événements. Utilisez un code pays ISO comme FR, BE ou CH.

Avec tool_choice réglé sur {"type": "web_search"}, la recherche devient obligatoire, utile si vous voulez toujours des sources fraîches. En auto, le modèle s'en passe pour les questions auxquelles il peut répondre directement, ce qui est plus rapide. Indiquez dans le prompt vos sources préférées, par exemple les sites officiels, et demandez des citations ; le modèle suit bien ces consignes.

Un usage éprouvé

La recherche web convient aux assistants de recherche, à la veille concurrentielle et de marché, aux bots de support qui ont besoin d'informations produit à jour et aux agents qui vérifient des faits avant d'agir. Affichez les citations dans votre interface sous forme de liens à côté des phrases qu'elles étayent, pour que le lecteur vérifie en un clic.

Pour le savoir interne, préférez votre propre recherche par embeddings, et combinez les deux dans une requête quand une question mêle données de l'entreprise et informations publiques. Conservez les URL citées avec la réponse si vous devez garder une trace de l'origine des informations.

Erreurs et cas particuliers

Le web n'a pas toujours raison. Les résultats peuvent être périmés, partiaux ou faux, et le modèle peut mal lire une page. Demandez des citations, affichez-les et gardez un humain dans la boucle pour les décisions aux conséquences juridiques ou financières.

Certaines pages bloquent les accès automatisés ou se trouvent derrière une connexion ou un paywall, et ne peuvent pas être lues. Si rien d'utile n'est trouvé, le modèle doit le dire ; précisez-le dans vos consignes. La recherche ajoute du temps et des tokens d'entrée : ne l'imposez pas inutilement. C'est la requête de recherche, et non toute votre conversation, qui part vers l'index.

Web search : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Poser une question

Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

  • Réponse sous un jour ouvré
  • Tarif adapté à votre volume
  • DPA prêt à signer