OpenAI خواستار تقویت قانون ایمنی AI کالیفرنیا شد

OpenAI از کالیفرنیا خواسته است قانون SB 53، چارچوب ایالتی ایمنی هوش مصنوعی frontier، را تقویت کند. این تغییر موضع پس از مجموعه‌ای از رخدادهای امنیت سایبری مرتبط با مدل‌های پیشرفته مطرح شده است. در به‌روزرسانی ۲۱ اوت OpenAI Global Affairs، شرکت گفت قانون باید توسعه پیدا کند تا پایش مدل‌های frontier در زمان training و evaluation برای شناسایی رخدادهای بالقوه جدی را الزامی کند و حفاظت سایبری را در سراسر چرخه توسعه مدل تقویت کند. این درخواست، موضعی که قبلاً نسبت به مقررات ایالتی دفاعی‌تر بود را به پیشنهاد safeguards قانونی گسترده‌تر تبدیل می‌کند.

زمان این پیشنهاد مهم است، چون فقط یک ترجیح سیاستی انتزاعی نیست. OpenAI در ماه اوت محیط ریسک تازه‌ای را توصیف کرده که در آن مدل‌های در حال توسعه می‌توانند پیش از عرضه عمومی مشکلات امنیت عملیاتی ایجاد کنند. در بیانیه جداگانه درباره کند کردن توسعه مدل، شرکت گفت بخشی از scaling را موقتاً آهسته کرده و هم‌زمان استانداردهای monitoring، alignment و containment را بالا می‌برد. حالا این تجربه عملیاتی به یک موضع مقرراتی تبدیل شده است: کنترل‌ها نباید فقط روی سیستم‌های منتشرشده اعمال شوند، بلکه باید مدل‌های frontier در حال training یا test را نیز پوشش دهند.

SB 53 فعلی کالیفرنیا همین حالا یکی از مهم‌ترین چارچوب‌های ایالتی برای AI frontier را ایجاد کرده است. طبق اعلامیه امضای قانون از سوی فرماندار کالیفرنیا، توسعه‌دهندگان بزرگ frontier باید چارچوب ایمنی خود را منتشر کنند، سازوکاری برای گزارش برخی رخدادهای ایمنی بحرانی وجود دارد، از whistleblowerها محافظت می‌شود و برای عدم رعایت قانون امکان جریمه مدنی وجود دارد. موضع جدید OpenAI این الزامات را جایگزین نمی‌کند، بلکه می‌گوید قانون باید صریحاً به مدل‌های در حال training و evaluation نیز بپردازد و cybersecurity را یک تعهد سراسری در چرخه عمر توسعه بداند.

این تغییر برای AI governance معنادار است، چون بسیاری از مقررات فعلی هنوز حول deployment سازمان‌دهی شده‌اند. مقررات سنتی نرم‌افزار اغلب فرض می‌کند ریسک اصلی زمانی آغاز می‌شود که محصول به مشتری یا زیرساخت production می‌رسد. توسعه مدل‌های frontier این فرض را می‌شکند. یک سیستم training یا evaluation ممکن است خیلی پیش از انتشار عمومی به شبکه، ابزارها، اجرای کد و زیرساخت حساس دسترسی داشته باشد. اگر رخداد جدی در همین مرحله ممکن باشد، governance که فقط از deployment شروع شود ذاتاً دیر است.

این پیشنهاد معنای عملی monitoring را هم تغییر می‌دهد. برای سازمان‌های مهندسی، پایش مدل frontier هنگام training یا evaluation فقط ثبت prompt و output نیست. می‌تواند شامل anomaly detection، audit کردن tool callها، enforcement مرزهای شبکه، telemetry مربوط به sandbox، کنترل دسترسی، escalation رخداد و نگهداری evidence باشد. این کنترل‌ها باید با این فرض طراحی شوند که خود سیستم تحت مشاهده ممکن است رفتارش را تطبیق دهد، ضعف نرم‌افزاری را exploit کند یا actionهایی انجام دهد که صریحاً در test plan فهرست نشده‌اند.

درخواست OpenAI برای تقویت cybersecurity در سراسر model-development lifecycle همین منطق را جلوتر می‌برد. امنیت باید training clusterها، model checkpointها، محیط‌های evaluation، workstationهای پژوهشگران، secretها، ابزارهای خارجی و زیرساخت third-party testing را پوشش دهد. این رویکرد بیشتر شبیه secure development lifecycle برای مدل‌های بسیار قدرتمند است تا یک checklist محدود AI safety. برای رهبران architecture و security، تفاوت مهم است چون مسئولیت را از یک تابع محدود «AI safety» به identity، infrastructure، network security، software supply chain و incident response گسترش می‌دهد.

استدلال عمومی شرکت با بحث گسترده‌تر درباره تهدیدهای سایبری پایدارِ تقویت‌شده با AI هم تقویت می‌شود. در یک مصاحبه تازه Guardian، Chris Lehane مدیر امور جهانی OpenAI گفت سازمان‌ها باید برای حملات مداوم و پایدار آماده شوند، چون سیستم‌های قدرتمندتر در دسترس‌تر می‌شوند. این گزارش همچنین می‌گوید هنوز مشخص نیست کارهای داخلی متوقف‌شده چه زمانی کاملاً از سر گرفته می‌شوند. این منبع مستقل همه ادعاهای فنی پشت موضع سیاستی OpenAI را تأیید نمی‌کند، اما نشان می‌دهد شرکت مسئله cyber را یک مشکل governance پایدار می‌داند، نه یک رخداد منفرد.

برای practitionerها، مهم‌ترین پیام این است که محیط‌های evaluation داخلی شاید باید شبیه zoneهای امنیتی production مدیریت شوند. تیمی که مدل frontier منتشرنشده را test می‌کند ممکن است به isolation قوی‌تر از sandbox توسعه معمولی، کنترل سخت‌تر روی outbound connectivity، approval صریح برای ابزارهای حساس و containment خودکار هنگام عبور رفتار از thresholdهای تعریف‌شده نیاز داشته باشد. این کار می‌تواند experimentation را کند کند، اما جایگزین آن این فرض خطرناک است که چون مدل هنوز عمومی نشده، نمی‌تواند پیامد دنیای واقعی ایجاد کند.

این موضوع برای procurement هم اثر دارد. سازمان‌ها هنگام تصمیم برای استفاده از مدل‌های پیشرفته به‌طور فزاینده‌ای به safety framework فروشندگان متکی‌اند. اگر کالیفرنیا SB 53 را مطابق پیشنهاد OpenAI گسترش دهد، خریداران ممکن است اطلاعات استانداردتری درباره monitoring پیش از release و نحوه رسیدگی توسعه‌دهندگان به critical incidentها به دست آورند. در نتیجه vendor due diligence کمتر به ادعاهای داوطلبانه بازاریابی وابسته می‌شود و حتی برای providerهایی خارج از دامنه مستقیم کالیفرنیا baseline تازه‌ای از پرسش‌های سازمانی شکل می‌گیرد.

نباید این تغییر موضع را بیش از حد بزرگ جلوه داد. OpenAI جهت‌گیری‌هایی پیشنهاد کرده، نه متن قانونی نهایی، و کالیفرنیا هنوز این الزامات اضافی را تصویب نکرده است. حمایت شرکت هم پرسش‌های اجرایی را حل نمی‌کند: کدام مدل‌ها مشمول monitoring تقویت‌شده می‌شوند، serious incident دقیقاً چیست، چه مقدار evidence باید نگهداری شود، چه زمانی regulator باید مطلع شود و اطلاعات محرمانه توسعه مدل چگونه محافظت خواهد شد. همین جزئیات تعیین می‌کنند قواعد واقعاً عملیاتی باشند یا صرفاً نمادین.

یک تنش governance مهم دیگر هم وجود دارد. اینکه یک توسعه‌دهنده پس از مواجهه با ریسک تازه خواستار قواعد قوی‌تر شود می‌تواند نشانه adaptation مسئولانه باشد، اما می‌تواند مقررات را به سمتی ببرد که به نفع سازمان‌های بزرگی باشد که توان ساخت سیستم‌های compliance پرهزینه را دارند. اگر الزامات با capability و risk متناسب نشوند، labهای کوچک‌تر و توسعه‌دهندگان open-model ممکن است هزینه نامتناسبی تحمل کنند. سیاست‌گذار باید از چارچوبی اجتناب کند که روی کاغذ safety را بالا می‌برد اما عملاً frontier development را نزد چند شرکت بزرگ متمرکز می‌کند.

برای مخاطبان Aipolix، پیام فوری عملی است: model governance در حال حرکت به بالادست است. مرز کنترل دیگر فقط API endpoint یا agent deployed نیست. training run، evaluation harness، sandbox، model checkpoint و زیرساخت اطراف آن‌ها هم بخشی از سطح governance می‌شوند. تیم‌های security و governance حتی پیش از نهایی شدن regulation می‌توانند بررسی کنند آیا مدل‌های منتشرنشده همان discipline مربوط به identity، network، audit و incident response را دریافت می‌کنند که از سیستم production انتظار می‌رود.

مرحله بعدی که باید دنبال شود این است که آیا قانون‌گذاران کالیفرنیا پیشنهاد OpenAI را به amendmentهای مشخص تبدیل می‌کنند و آیا سایر frontier labها از همان الزامات حمایت خواهند کرد. پرسش‌های فنی اصلی این است که monitoring obligation دقیقاً چگونه تعریف می‌شود، آیا thresholdهای incident reporting مشخص‌تر خواهند شد و آیا cybersecurity standard به capability مدل متصل می‌شود یا فقط اندازه شرکت. جهت کلی روشن است: پس از دوره‌ای که frontier AI policy بیشتر بر disclosure و deployment تمرکز داشت، لایه بعدی مقررات ممکن است مستقیماً به training، evaluation و containment مدل‌های پیشرفته پیش از release وارد شود.

## Sources
- OpenAI Global Affairs: Pacing Our Model Development
- OpenAI: Pacing model development in an era of cyber-critical capabilities
- California Governor: Governor Newsom signs SB 53
- The Guardian: OpenAI leader warns of persistent AI cyber-attacks