A OpenAI quer que os programadores deixem de pagar por parágrafos quando só precisam de um veredicto. A 22 de outubro, a empresa disponibilizou para todos a Decisions API, um ponto de acesso dedicado que faz ao GPT-6 Luna perguntas com um conjunto fechado de respostas possíveis e devolve um resultado estruturado em vez de prosa. O produto foi apresentado no DevDay de 29 de setembro e estava desde então em versão beta pública.
Há três formatos de resposta. Uma pergunta do tipo predicado devolve a probabilidade, entre 0 e 1, de uma condição ser verdadeira, por exemplo se uma fotografia mostra uma encomenda danificada. Uma pergunta de escolha seleciona uma opção de uma lista definida pelo programador, como continuar, repetir ou pedir esclarecimentos, e junta probabilidades e um valor de confiança. Uma pergunta de pontuação classifica a entrada segundo níveis ordenados de uma grelha. O contexto pode chegar como texto, imagens ou JSON nativo.
A disponibilidade geral traz novidades. A OpenAI destaca a ligação nativa ao GPT-Live, a sua infraestrutura de voz em tempo real, para que um agente de voz decida a meio da conversa se pede um esclarecimento, encaminha o pedido ou o escala; cache de prompts para contexto repetido; processamento mantido nos EUA ou na UE; imagens dentro das instruções; e até 400 perguntas por pedido, o dobro do limite da beta. A empresa diz ainda ter reforçado a capacidade em várias regiões da Ásia para reduzir a latência.
O modelo de preços é o mais invulgar: 0,10 dólares por milhão de tokens de entrada, 0,01 dólares por milhão em entrada guardada em cache, e nada pela saída. Segundo a OpenAI, o serviço responde até dez vezes mais depressa do que a mesma pergunta feita ao GPT-6 Luna através da Responses API. Os números de clientes são declarados pelos próprios: a Datadog fala numa latência p95 quarenta vezes melhor ao avaliar o risco de comandos gerados por agentes, a Sierra em chamadas abaixo de 280 milissegundos e custo cerca de 90% inferior, a Ramp em atribuição de custos quatro vezes mais rápida e 30% mais barata, e a Speak numa espera antes da ação seguinte que caiu de 1,4 para 0,13 segundos.
Com este lançamento, a OpenAI entra num mercado jovem, o dos chamados modelos de decisão. O TechCrunch conta que a empresa reagiu ao Jev, da TypeSafe, um modelo concebido para classificar depressa e com indicação de confiança. Nikunj Handa, responsável de produto das APIs da OpenAI, explicou à publicação que não foi treinado um modelo à parte: o Luna foi reconfigurado para uma inferência mais rápida e barata, baixando as respostas de um a três segundos para cerca de 100 a 180 milissegundos.
As classificações independentes ainda não favorecem a OpenAI. Segundo o TechCrunch, o AIM System One Index e o Artificial Analysis Decision Index colocam a oferta da empresa em oitavo e décimo quarto lugar, atrás do D1 Ultra da Liquid, do Elephant-1 da Base Labs e da versão mais recente do Jev, que é também o mais consultado no OpenRouter. Handa defende que o tratamento de imagens e a calibração do Luna são os trunfos da OpenAI.
Para quem constrói agentes, o interesse está em colocar uma verificação barata e delimitada no caminho crítico de um fluxo, como autorizar uma chamada a uma ferramenta ou encaminhar um pedido de suporte, sem pagar por gerações longas. Resta saber se a latência e a precisão anunciadas se mantêm fora dos pilotos citados e se a calibração de um modelo generalista resiste à comparação com rivais especializados, algo que cada equipa terá de medir nas suas próprias cargas.