inference.eu

POST /v1/responses

Exécution de code : un bac à sable Python pour les modèles, dans l'UE

Les modèles de langage écrivent du bon code mais calculent mal de tête. L'outil d'exécution de code permet au modèle d'écrire du Python, de l'exécuter dans un bac à sable isolé et d'utiliser le résultat dans sa réponse. Les questions sur des tableurs, des statistiques ou des conversions d'unités obtiennent ainsi des réponses calculées plutôt qu'estimées. Les bacs à sable tournent dans des centres de données européens.

  1. 01Format d'API: OpenAI
  2. 02Centres de données dans l'UE
  3. 03Couvert par un seul DPA
POST /v1/responses
curl https://api.inference.eu/v1/responses \
  -H "Authorization: Bearer $INFERENCE_EU_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "gpt-oss-120b",
    "tools": [{
      "type": "code_interpreter",
      "container": {"type": "auto", "file_ids": ["file-4b81c0"]}
    }],
    "instructions": "Use Python to analyse the attached CSV. Show the numbers you computed.",
    "input": "Which three product categories grew fastest in revenue between Q2 and Q3, and by how much?"
  }'

Ce que fait l'outil

Ajoutez un outil type: "code_interpreter" à une requête POST /v1/responses. Quand le modèle juge le code utile, il écrit du Python, l'API l'exécute dans un bac à sable, puis le modèle lit la sortie, corrige le code en cas d'erreur et le relance jusqu'à obtenir ce qu'il lui faut. Il répond ensuite en texte.

Chaque exécution apparaît dans output sous forme d'élément code_interpreter_call, avec le code écrit par le modèle et le container_id utilisé. Afficher ou journaliser ce code rend la réponse vérifiable : chacun voit comment un chiffre a été obtenu.

Conteneurs et fichiers

Le champ container détermine où s'exécute le code. {"type": "auto"} crée un bac à sable neuf pour la requête, ou réutilise celui des tours précédents de la même conversation. Ajoutez file_ids pour y rendre des fichiers disponibles : envoyez d'abord un CSV, un fichier Excel ou un JSON via l'API Files avec purpose user_data, puis passez son identifiant.

Le bac à sable dispose de Python et des bibliothèques courantes pour les tableaux, les statistiques et les graphiques. Les fichiers créés par le code, comme un CSV nettoyé ou un graphique, sont référencés dans la réponse comme citations de fichiers du conteneur, à télécharger. Les conteneurs expirent après une période d'inactivité, avec leurs fichiers.

Usages éprouvés

Analyse de données : joignez un export de votre boutique, de votre CRM ou de votre comptabilité et posez vos questions en langage courant, comme la croissance par catégorie ou les clients aux factures impayées. Calculs : échéanciers de prêt, conversions d'unités ou de devises avec les taux que vous fournissez, exemples fiscaux, partout où l'exactitude compte. Transformations : nettoyer un tableur désordonné, fusionner deux fichiers ou remettre des données au format attendu par un autre système.

Associez l'outil à des modèles de raisonnement pour les analyses en plusieurs étapes, et aux sorties structurées si un programme lit les chiffres finaux. Pour un rapport récurrent, gardez le prompt fixe et changez seulement le fichier joint.

Erreurs, limites et sécurité

Le bac à sable est isolé de vos systèmes et des autres clients et, par défaut, n'a pas accès à internet : le code ne peut ni envoyer des données ailleurs ni installer de paquets depuis le réseau. Si le code échoue, l'erreur est renvoyée au modèle, qui la corrige le plus souvent ; un échec persistant se conclut par une explication dans la réponse.

Les exécutions sont limitées en temps, en mémoire et en taille de fichier selon votre offre, et nous vous confirmons ces limites. Résumez ou filtrez les très gros fichiers avant l'envoi. Vérifiez les résultats importants : le calcul est exact, mais le modèle peut choisir la mauvaise colonne ou mal comprendre la question.

Code execution : questions fréquentes

Les questions que nous posent le plus les achats, les développeurs et les juristes. Il en manque une ? Posez-la-nous directement.

Poser une question

Faites passer vos charges IA sur une infrastructure européenne

Dites-nous quels modèles vous utilisez et votre volume approximatif. Nous répondons sous un jour ouvré avec un tarif et la suite.

  • Réponse sous un jour ouvré
  • Tarif adapté à votre volume
  • DPA prêt à signer