OpenAI lance la Decisions API, jusqu'à 10 fois plus rapide pour certaines tâches
L'API, propulsée par GPT-6 Luna, ramène des temps de traitement de 1 à 3 secondes à environ 100 à 180 millisecondes, selon OpenAI.
OpenAI a officiellement lancé sa Decisions API pour l'ensemble de ses clients le 22 octobre 2026, selon aitimes.com. L'interface, propulsée par GPT-6 Luna, est présentée par l'entreprise comme capable de traiter certaines tâches de décision jusqu'à 10 fois plus vite que le recours à GPT-6 Luna via la Responses API.
Les temps de traitement passent ainsi d'environ 1 à 3 secondes à quelque 100 à 180 millisecondes pour les tâches concernées. Les développeurs définissent les questions et les réponses autorisées, puis soumettent du texte, des images ou des données JSON structurées ; les résultats reviennent sous forme de probabilités, de choix ou de scores.
L'API accepte nativement les entrées JSON et les questions contenant des images. Une requête unique peut porter jusqu'à 400 questions, soit le double de la limite précédente. Un réglage permet aussi de traiter l'inférence aux États-Unis et dans l'Union européenne.
Pendant la bêta publique, OpenAI a ajouté une intégration par défaut avec GPT-Live ainsi que la mise en cache des prompts. La tarification est de 0,10 USD par million de tokens d'entrée et de 0,01 USD pour les entrées mises en cache, sans frais pour les tokens de sortie. Les clients éligibles peuvent opter pour une option Zero Data Retention.
OpenAI utilise déjà la Decisions API en interne pour accélérer les réponses de son assistant vocal Dots. Speak, service d'apprentissage des langues, fait partie des premiers clients à l'avoir testée : son CTO Andrew Shee indique que le délai avant la prochaine action est passé de 1,4 seconde à 0,13 seconde lors d'un test combinant la Decisions API et GPT-Live. Box, Datadog et Ramp figurent également parmi les clients d'essai.
Une optimisation de GPT-6 Luna
Selon aitimes.com, OpenAI a développé le produit en optimisant le processus d'inférence de GPT-6 Luna plutôt qu'en entraînant un modèle distinct dédié aux décisions, après avoir examiné les modèles de décision de concurrents.
En bref
Quel est le prix de la Decisions API d'OpenAI ?
0,10 USD par million de tokens d'entrée et 0,01 USD pour les entrées mises en cache ; les tokens de sortie ne sont pas facturés.
Combien de questions peut contenir une seule requête ?
Jusqu'à 400 questions, soit deux fois plus que la limite précédente.
Quel modèle propulse la Decisions API ?
GPT-6 Luna, selon OpenAI.