سامانههای آبشاری مدلها برای کاهش هزینه معمولاً منطق سادهای دارند: بیشتر درخواستها را مدل ارزانتر پاسخ میدهد و فقط موارد دشوار یا نامطمئن برای ارزیابی به مدل قویتر فرستاده میشوند. یک پیشچاپ تازه ضعف مهمی را در همین طراحی اندازه گرفته است. اگر همان ارزیابی که درباره پذیرش پاسخ تصمیم میگیرد شاخصهای کیفیت را هم بسازد، سامانه ممکن است نمای پایش آرامشبخشی نشان دهد در حالی که بخشی از خطاهای خودش را اصولاً نمیبیند.
این پژوهش که اول سپتامبر به قلم دوشیانت راجپوت از AltSlate Labs ثبت شده، مسئله را با مدلهای زبانی واقعی آزمایش میکند و کد، دادههای اندازهگیریشده و دستور بازتولید را منتشر میکند. مهمترین نتیجه عملی این نیست که همه سامانههای آبشاری ذاتاً غیرقابلاعتمادند. نتیجه مهمتر این است که ارزیابی که هم مسیر درخواستها را تعیین میکند و هم ابزار سنجش کیفیت است، سیگنال مستقلی برای کیفیت نیست.
با قویتر شدن مدل کوچکتر، نقطه کور ارزیاب میتواند بزرگتر شود
پژوهش نقطه کور را سهم پاسخهای واقعاً غلط مدل کوچکتر تعریف میکند که ارزیاب آنها را میپذیرد. در آزمایشهایی با نسخههای Qwen2.5-Instruct از ۰.۵ تا ۳۲ میلیارد پارامتر، نویسنده گزارش میکند که نرخ نقطه کور در برابر یک ارزیاب ثابت از ۰.۱۲ به ۰.۵۵ افزایش یافته است.
این نتیجه مستقیماً به منطق اقتصادی سامانه آبشاری مربوط است. مدل ارزانتر باید جریان اصلی را پاسخ دهد و مدل گرانتر فقط وقتی وارد شود که پاسخ رد شده باشد. اما با بهتر شدن مدل کوچکتر، خطاهای باقیمانده میتوانند ظریفتر شوند و تشخیص آنها برای یک ارزیاب ضعیفتر سختتر شود. بهتر شدن مدل کوچکتر لزوماً توانایی ارزیاب را در دیدن خطاهای باقیمانده بیشتر نمیکند.
در پیکربندی آزمایششده، یک ارزیاب قوی نرخ نقطه کور را به حدود ۰.۰۵ رساند، اما ۴۶ درصد درخواستهای مجموعه دشوار MATH را به مدل گرانتر فرستاد؛ در حالی که نرخ واقعی خطای مدل کوچکتر ۳۹ درصد بود. افزایش اطمینان در این حالت بخشی از صرفه اقتصادی سامانه آبشاری را از بین میبرد.
نمای پایش میتواند سبز بماند در حالی که کیفیت دریافتی کاربر تغییر میکند
مهمترین یافته برای عملیات، شکست در سنجش است. پژوهش گزارش میکند شاخصهایی که خود ارزیاب محاسبه میکرد حدود ۳ درصد خطا نشان میدادند، در حالی که خطای واقعی روبهکاربر، با یک مرجع مستقل، در برخی اجراها تا ۳۲ درصد بالا رفت.
این صرفاً یک اشکال معمول در پایش نیست. اگر ارزیاب یک پاسخ غلط را اشتباهاً بپذیرد، همان پاسخ نمیتواند بعداً در شاخص کیفیتی که دوباره از همان ارزیاب عبور میکند بهعنوان خطا ظاهر شود. تصمیم مسیریابی و تخمین کیفیت، یک نقطه کور مشترک دارند.
در محیط عملیاتی، نرخ ارجاع به مدل گران، دقت تخمینی ارزیاب و شاخصهای مشابه نباید بهتنهایی مدرک سلامت سامانه آبشاری تلقی شوند. سامانه ممکن است هم ارزانتر و هم ظاهراً دقیقتر به نظر برسد، در حالی که خطاهای کشفنشده در پاسخهایی که ارزیاب تأیید کرده است جمع میشوند.
خودبهبوددهی، حلقه آزمایششده را نجات نداد
پژوهش یک راه طبیعی برای کاهش هزینه را هم امتحان میکند: مدل ارزان با نمونههایی که مدل قویتر رد و اصلاح کرده دوباره تنظیم شود تا در دورهای بعدی درخواستهای کمتری نیاز به ارجاع داشته باشند. در آزمایشهای واقعی گزارششده، این حلقه اصلاحی مدل کوچک را بهتر نکرد؛ عملکرد آن افت کرد و در نهایت در همه مدلهای قویتری که نقش اصلاحکننده داشتند فروپاشید.
نویسنده دامنه این نتیجه را روشن محدود میکند. استدلال نظری درباره باقی ماندن یک کف خطا به حلقهای نیاز دارد که واقعاً مدل کوچکتر را بهتر کند. بنابراین آن بخش در یک مطالعه مصنوعی کنترلشده بررسی شده و بهعنوان نتیجه اثباتشده آزمایشهای واقعی ارائه نشده است. چیزی که در مدلهای واقعی مستقیماً اندازهگیری شده محدودتر است: ارزیاب نقطه کور دارد، اندازه این نقطه کور با توان مدلها تغییر میکند و نمای پایشی که از همان ارزیاب ساخته شده میتواند خطایی را که کاربر در عمل دریافت میکند پنهان کند.
پس این کار ثابت نمیکند همه سامانههای آبشاری خودبهبوددهنده فرو میپاشند و یک حد جهانی برای قابلیت اعتماد هم ارائه نمیکند.
حسابرسی مستقل باید جزئی از معماری آبشاری مدلها باشد
پیام طراحی فقط انتخاب ارزیاب قویتر نیست. اگر ارزیاب بخشی از لایه کنترل است، مسیر سنجش باید جدا باشد و همان تصمیم پذیرش یا رد را به ارث نبرد.
یک راه، نمونهبرداری آماری از جریان واقعی و ارزیابی آن با مرجع مستقل برای سنجش صحت یا روش سنجش متفاوت است. در صورت امکان میتوان ارزیاب را از خانواده یا روش متفاوتی انتخاب کرد تا احتمال خطاهای همبسته کمتر شود. در کاربردهای پرخطر، بازبینی انسانی نمونهای یا کنترلهای قطعی ویژه همان حوزه میتوانند مرجع بیرونی بدهند.
این نکته محاسبه هزینه را هم تغییر میدهد. بودجه سامانه آبشاری باید هزینه حسابرسی مستقل را در کنار هزینه مدل ارزان و درخواستهایی که به مدل قویتر فرستاده میشوند در نظر بگیرد. اگر صرفه اقتصادی فقط زمانی جذاب است که کیفیت با همان ارزیاب مسیریابی سنجیده شود، بخشی از صرفهجویی ظاهری ممکن است بر ریسکی اندازهگیرینشده بنا شده باشد.
بنابراین پرسش کنترلی اصلی فقط این نیست که مدل گران چند درخواست را پاسخ داده است. پرسش این است که چه شواهد مستقلی نشان میدهد پاسخهایی که ارزیاب تأیید کرده است همچنان درستاند.
شواهد قابل بازتولیدند، اما دامنه محدود است
مخزن پروژه کد آزمایشها، فایلهای نتایج، دستور بازتولید و مجوز MIT برای کد و داده را منتشر کرده است. آزمایشهای واقعی از مدلهای Qwen2.5-Instruct بهعنوان مدل کوچکتر، مدلهای OpenAI بهعنوان ارزیاب و اصلاحکننده، دو مجموعه GSM8K و MATH دشوار، تنظیم LoRA و یک شتابدهنده H100 استفاده میکنند. پژوهش برای اندازهگیری نقطه کور، بازههای اطمینان ۹۵ درصدی Wilson را نیز گزارش میکند.
این شفافیت برای یک پیشچاپ تازه ارزشمند است، اما محدودیتها جدیاند. آزمایش واقعی عمداً در یک محیط آزمایش کنترلشده روی مسائل ریاضی انجام شده که در آن مرجع مستقل برای سنجش صحت ارزان بهدست میآید. نویسنده صریحاً میگوید همین اندازهگیری روی وظایف واقعاً مبهم، مانند بررسی ادعاهای طولانی یا کیفیت بازبینی کد، انجام نشده است. اجراهای واقعی نیز با یک بذر تصادفی انجام شدهاند.
بنابراین این اعداد نباید بهعنوان نرخ شکست مورد انتظار برای سامانههای RAG، برنامهنویسی یا عاملهای سازمانی معرفی شوند. سهم قابلدفاعتر پژوهش معماری آن است: شاخص کیفیتی که به همان ارزیاب مورد استفاده برای مسیریابی وابسته باشد، بهصورت ساختاری قادر به دیدن بخشی از خطاهای مهم نیست.
برای تیمی که سامانه آبشاری مدل را وارد تولید میکند، همین نتیجه یک دروازه انتشار عملی میسازد: پیکربندی ارزانتر مسیریابی را تا زمانی ارتقا ندهید که یک مسیر حسابرسی مستقل نشان دهد کیفیتی که کاربر در عمل دریافت میکند همچنان در محدوده موردنیاز باقی مانده است.