OpenAI veut que les développeurs cessent de payer des paragraphes quand ils n'ont besoin que d'un verdict. Le 22 octobre, l'entreprise a ouvert à tous sa Decisions API, un point d'accès dédié qui soumet à GPT-6 Luna des questions dont les réponses possibles sont fixées d'avance et renvoie un résultat structuré au lieu d'un texte rédigé. Le produit avait été présenté lors du DevDay du 29 septembre puis proposé en bêta publique.
Trois formats de réponse structurent l'offre. Une question de type prédicat renvoie la probabilité, entre 0 et 1, qu'une condition soit remplie, par exemple qu'une photo montre un colis abîmé. Une question à choix retient une option parmi celles fournies par le développeur, comme poursuivre, réessayer ou demander une précision, avec des probabilités et un indice de confiance. Une question de notation situe l'entrée sur des niveaux ordonnés d'une grille. Le contexte peut être transmis sous forme de texte, d'images ou de JSON natif.
La disponibilité générale s'accompagne de nouveautés. OpenAI met en avant un raccordement natif à GPT-Live, sa brique vocale temps réel, afin qu'un agent vocal décide en pleine conversation s'il faut demander une précision, orienter la demande ou la faire remonter ; la mise en cache des prompts pour un contexte réutilisé ; un traitement cantonné aux États-Unis ou à l'Union européenne ; des images dans les consignes ; et jusqu'à 400 questions par requête, deux fois plus qu'en bêta. L'entreprise dit aussi avoir ajouté des capacités dans plusieurs régions d'Asie pour réduire la latence.
La tarification sort de l'ordinaire : 0,10 dollar par million de jetons d'entrée, 0,01 dollar pour l'entrée en cache, et rien pour la sortie. Selon OpenAI, le service répond jusqu'à dix fois plus vite que la même question posée à GPT-6 Luna via la Responses API. Les chiffres clients sont déclaratifs : Datadog évoque une latence p95 quarante fois meilleure pour évaluer le risque de commandes produites par des agents, Sierra des appels sous les 280 millisecondes et un coût environ 90 % plus bas, Ramp une attribution des coûts quatre fois plus rapide et 30 % moins chère, et Speak un délai avant l'action suivante ramené de 1,4 à 0,13 seconde.
OpenAI fait ainsi son entrée sur un marché naissant, celui des modèles dits de décision. D'après TechCrunch, l'entreprise a réagi à Jev, le modèle de TypeSafe conçu pour classer très vite en indiquant un niveau de confiance. Nikunj Handa, responsable produit des API d'OpenAI, a expliqué au site qu'aucun modèle distinct n'avait été entraîné : Luna a été reconfiguré pour une inférence plus rapide et moins coûteuse, faisant passer les réponses d'une à trois secondes à environ 100 à 180 millisecondes.
Les classements indépendants ne tournent pas encore à l'avantage d'OpenAI. TechCrunch relève que l'AIM System One Index et l'Artificial Analysis Decision Index placent son offre huitième et quatorzième, derrière D1 Ultra de Liquid, Elephant-1 de Base Labs et la dernière version de Jev, également la plus sollicitée sur OpenRouter. Handa estime que le traitement des images et la calibration de Luna sont les atouts de la maison.
Pour les concepteurs d'agents, l'intérêt consiste à glisser un contrôle bon marché et borné au cœur d'un flux, pour autoriser un appel d'outil ou aiguiller un ticket, sans payer de longues générations. Reste à vérifier si la latence et la précision annoncées tiennent en dehors des pilotes cités, et si la calibration d'un modèle généraliste soutient la comparaison avec des concurrents spécialisés : chaque équipe devra le mesurer sur ses propres charges.