OpenAI می‌خواهد توسعه‌دهندگان وقتی فقط به یک حکم نیاز دارند، پول چند پاراگراف متن را ندهند. این شرکت روز ۲۲ اکتبر رابط Decisions API را به‌طور عمومی عرضه کرد؛ نقطه دسترسی ویژه‌ای که از مدل GPT-6 Luna پرسش‌هایی با پاسخ‌های از پیش تعیین‌شده می‌پرسد و به‌جای نثر، خروجی ساختاریافته تحویل می‌دهد. این محصول نخستین بار در رویداد DevDay در ۲۹ سپتامبر معرفی شد و از آن زمان در مرحله آزمایشی عمومی بود.

سه قالب پاسخ پایه کار است. پرسش گزاره‌ای احتمال درستی یک شرط را بین صفر و یک برمی‌گرداند؛ مثلاً اینکه آیا عکسی بسته‌ای آسیب‌دیده را نشان می‌دهد. پرسش انتخابی یکی از گزینه‌هایی را که توسعه‌دهنده تعیین کرده، مانند ادامه، تلاش دوباره یا پرسیدن از کاربر، برمی‌گزیند و احتمال‌ها و میزان اطمینان را هم گزارش می‌کند. پرسش امتیازی ورودی را روی سطوح مرتب یک جدول سنجش می‌سنجد. زمینه را می‌توان به‌صورت متن، تصویر یا داده ساختاریافته فرستاد.

عرضه عمومی با چند قابلیت تازه همراه است. OpenAI از اتصال مستقیم به GPT-Live، زیرساخت گفت‌وگوی صوتی هم‌زمان خود، نام می‌برد تا عامل صوتی بتواند وسط گفت‌وگو تصمیم بگیرد که توضیح بخواهد، درخواست را هدایت کند یا به سطح بالاتر بفرستد. ذخیره موقت پرامپت برای زمینه تکراری، نگه داشتن پردازش در آمریکا یا اروپا، امکان گنجاندن تصویر در دستورها و سقف ۴۰۰ پرسش در هر درخواست، یعنی دو برابر دوره آزمایشی، از دیگر تغییرات است. شرکت می‌گوید برای کاهش تأخیر، ظرفیت چند منطقه آسیایی را هم افزایش داده است.

قیمت‌گذاری غیرمعمول‌ترین بخش است: ۰٫۱۰ دلار برای هر میلیون توکن ورودی، ۰٫۰۱ دلار برای ورودی ذخیره‌شده و هیچ هزینه‌ای برای خروجی. به گفته OpenAI، این رابط تا ده برابر سریع‌تر از طرح همان پرسش با GPT-6 Luna از طریق Responses API پاسخ می‌دهد. ارقام مشتریان را خودشان اعلام کرده‌اند: شرکت Datadog از بهبود چهل‌برابری تأخیر در صدک ۹۵ هنگام سنجش خطر فرمان‌های تولیدشده توسط عامل‌ها می‌گوید، Sierra از پاسخ‌های زیر ۲۸۰ میلی‌ثانیه و هزینه‌ای حدود ۹۰ درصد کمتر، Ramp از تخصیص هزینه چهار برابر سریع‌تر و ۳۰ درصد ارزان‌تر، و Speak از کاهش فاصله تا اقدام بعدی از ۱٫۴ به ۰٫۱۳ ثانیه.

با این عرضه، OpenAI وارد بازار نوپای مدل‌های تصمیم‌گیر می‌شود. به گزارش تک‌کرانچ، این شرکت پس از دیدن مدل Jev از TypeSafe که برای طبقه‌بندی سریع همراه با درجه اطمینان ساخته شده، دست به کار شد. نیکونج هاندا، مدیر محصول رابط‌های برنامه‌نویسی OpenAI، گفته است که مدل جداگانه‌ای آموزش داده نشده و همان Luna برای استنتاج سریع‌تر و ارزان‌تر پیکربندی شده تا زمان پاسخ از یک تا سه ثانیه به حدود ۱۰۰ تا ۱۸۰ میلی‌ثانیه برسد.

رتبه‌بندی‌های مستقل هنوز به سود OpenAI نیست. تک‌کرانچ می‌نویسد دو شاخص مستقل سنجش مدل‌های تصمیم‌گیر، محصول این شرکت را در رتبه‌های هشتم و چهاردهم قرار داده‌اند؛ پشت سر مدل‌هایی از Liquid و Base Labs و تازه‌ترین نسخه Jev که پرمصرف‌ترین گزینه در سرویس OpenRouter هم هست. هاندا معتقد است پردازش تصویر و دقت تنظیم احتمال‌ها برگ برنده Luna است.

برای سازندگان عامل‌های هوشمند، جذابیت کار در این است که بتوانند یک بررسی ارزان و محدود را در مسیر حساس یک فرایند بگذارند، مثلاً برای مجوز فراخوانی یک ابزار یا هدایت یک درخواست پشتیبانی، بی‌آنکه هزینه تولید متن طولانی را بپردازند. اینکه تأخیر و دقت اعلام‌شده بیرون از آزمایش‌های نقل‌شده هم پابرجا بماند و تنظیم احتمال در یک مدل همه‌منظوره در برابر رقبای تخصصی تاب بیاورد، چیزی است که هر تیم باید روی بار کاری خودش بسنجد.

منابع