OpenAI روز ۲۰ نوامبر ۲۰۲۶ گزارشی مفصل منتشر کرد درباره اینکه چگونه «تقطیر خصمانه» (adversarial distillation) را شناسایی و مختل می‌کند؛ یعنی استفاده بدون مجوز از خروجی یک مدل پیشرو برای آموزش مدلی دیگر که بعد بدون پادمان‌های مشابه به کار می‌افتد. این شرکت موضوع را هم مسئله ایمنی می‌داند و هم مسئله مالکیت فکری. مثال خودش مدلی است که با توانایی‌های سایبری یک سامانه قوی‌تر آموزش دیده و سپس برای کمک به حملاتی به کار می‌رود که سامانه اصلی از همراهی با آن‌ها خودداری می‌کرد.

تأکید اصلی متن بر حفاظت از زنجیره استدلال مدل است که OpenAI آن را «استدلال محافظت‌شده» می‌نامد، چون این گام‌های میانی ممکن است اطلاعاتی داشته باشند که پاسخ نهایی ندارد. در یک مطالعه داخلی، OpenAI یک مدل دانش‌آموز پیش‌آموزش‌دیده را با مسیرهای حل مدل‌های معلم در سطح Astra برای وظایف برنامه‌نویسی و دفاع سایبری تنظیم دقیق کرد و دانش‌آموزهایی را که فقط محتوای قابل‌مشاهده برای کاربر را دیده بودند با آن‌هایی که ردهای دقیق استدلال را هم داشتند مقایسه کرد. پس از تنظیم دقیق نظارت‌شده، دانش‌آموز دارای ردهای دقیق معمولا بهتر بود. پس از یک دور سبک یادگیری تقویتی، او همچنان در بزرگ‌ترین بودجه استنتاج آزمایش‌شده جلو بود، در حالی که دانش‌آموز آموزش‌دیده با خلاصه‌ها در بودجه‌های کمتر برتری داشت. OpenAI این را نشانه‌ای می‌داند که محافظت از ردها می‌تواند انتقال توانایی‌های سایبری را محدود کند.

درباره دفاع‌ها، شرکت دو لایه را شرح می‌دهد. در سطح هر درخواست: آموزش خصمانه، طبقه‌بندهای ورودی برای تشخیص تلاش‌های استخراج، طبقه‌بندهای خروجی برای یافتن نشت در پیام‌ها و آرگومان‌های فراخوانی ابزار، و محدودیت‌های API برای استفاده دوباره از استدلال محافظت‌شده. در GPT-6.2 Astra و GPT-6.2 Sol استدلال محافظت‌شده به تاریخچه گفت‌وگویی که آن را تولید کرده گره خورده است؛ اگر پیامی قبلی بازنویسی شود، API استدلال‌های بعد از آن را حذف می‌کند. خانواده‌های قدیمی‌تر مدل‌ها با پادمان‌های ضعیف‌تر هم دیگر نمی‌توانند آن را بخوانند. در سطح کمپین‌ها، OpenAI الگوهای هماهنگ میان حساب‌ها را دنبال می‌کند و علیه شبکه‌های کامل اقدام می‌کند.

عدد اصلی از یک ارزیابی تطبیقی جعبه‌سیاه با تیم قرمز خودکار می‌آید که روی شش مدل مهاجم جمع‌بندی شده است. میانگین نرخ موفقیت در بازیابی استدلال یک درخواست قبلی از ۵۴٫۰ درصد در برابر GPT-6 Astra با پادمان‌های اولیه به ۰٫۲ درصد در برابر GPT-6.2 Astra با پادمان‌های به‌روز کاهش یافته است. برای استخراج از درخواست جاری، این عدد از ۲۲٫۹ به ۰٫۹ درصد رسیده است. شرکت می‌گوید حالا بخشی از بهبودها را روی GPT-6 Astra هم اعمال می‌کند. از اقدام‌های اجرایی هفتگی علیه کمپین‌های تقطیر خبر می‌دهد که از چند هزار تا ده‌ها هزار حساب را شامل شده و نرخ آن در تابستان به‌شدت بالا رفته است.

متن موضع سیاستی هم دارد. OpenAI یادآوری می‌کند که در فوریه کنگره را درباره فعالیتی که نشان می‌داد DeepSeek می‌خواهد مدل‌های آمریکایی را تقطیر کند توجیه کرده، و می‌گوید گزارش سپتامبرش بخش اصلی یک کمپین استخراج استدلال را به افرادی وابسته به Moonshot AI، سازنده Kimi، نسبت داده بود. این شرکت از قانونی حمایت می‌کند که امکان تحریم بازیگران خارجی استخراج‌کننده غیرمجاز توانایی‌ها را بدهد و به کنگره گفته از Chip Security Act و AI OVERWATCH Act و MATCH Act پشتیبانی می‌کند. وعده داده جزئیات بیشتری درباره کمپین‌های اخیر بدهد و نشانگرهای نفوذ را با دیگر ارائه‌دهندگان به اشتراک می‌گذارد.

همه اعداد از آزمون‌های داخلی خود OpenAI می‌آیند و به‌طور مستقل بازتولید نشده‌اند، و مجموعه حمله‌ها هم به تیم‌های قرمز به‌کاررفته بستگی دارد. شرکت گام‌هایی را فهرست می‌کند که دیگران هم می‌توانند اجرا کنند: حفاظت از استدلال در پیام‌ها و فراخوانی ابزار، نگه‌داشتن حمله‌های موفق به‌عنوان آزمون بازگشت، و ترکیب کنترل در سطح درخواست با اقدام در سطح کمپین.

منابع