یک قاضی فدرال ایالات متحده اقدامات گستردهٔ پنتاگون علیه Anthropic را غیرقانونی دانست، برچسب ریسک زنجیرهٔ تأمین امنیت ملی را لغو کرد و تحریم‌های مرتبط را متوقف ساخت. تصمیم فراتر از یک شرکت هوش مصنوعی اهمیت دارد، چون حدومرز استفادهٔ دولت از اختیارات خرید و امنیت ملی را وقتی ارائه‌دهندهٔ مدل به‌طور علنی با کاربردهای قابل‌قبول فناوری خود مخالفت می‌کند تعریف می‌کند.
دعوا از امتناع Anthropic از حذف دو محدودیت برای استفادهٔ نظامی از Claude برخاست: نظارت انبوه بر آمریکایی‌ها و سلاح‌های مرگبار کاملاً خودمختار. حکم دستور موقت مارس از پیش دریافته بود که Anthropic احتمالاً در ادعاهایی موفق می‌شود که واکنش دولت تلافی‌جویانه و از نظر آیین دادرسی معیوب بوده است. حکم تازه، به گزارش Reuters و Associated Press، آن هشدار پیشین را به تصمیم نهایی دربارهٔ بخش‌های عمدهٔ پرونده بدل می‌کند.
دادگاه انتخاب فروشنده را از تحریم تنبیهی جدا کرد
یکی از مهم‌ترین تمایزهای دعوا این است که دولت همچنان آزاد است فروشندهٔ هوش مصنوعی دیگری برگزیند. حکم مارس صریحاً پذیرفت که پنتاگون می‌تواند Claude را برای نیازهای عملیاتی خود نامناسب بداند و استفاده از آن را متوقف کند. مشکل حقوقی وقتی پیش آمد که دولت فراتر رفت و از برچسب ریسک زنجیرهٔ تأمین و تحریم‌های گسترده‌تری استفاده کرد که توان Anthropic برای کار در سراسر بازار فدرال و با تأمین‌کنندگان نظامی را تحت‌تأثیر قرار می‌داد.
Reuters گزارش می‌دهد قاضی Rita Lin برچسب را غیرقانونی دانست و نتیجه گرفت که اختیار امنیت ملی نمی‌تواند به‌عنوان تلافی نقد حمایت‌شده به‌کار رود. AP نیز می‌گوید قاضی اقدامات را غیرقانونی و بی‌اساس یافت و حکم اجرای کارزار گسترده‌تر علیه Anthropic را مسدود می‌کند.
برای تیم‌های خرید هوش مصنوعی این تمایز پیامد دارد. دولت‌ها همچنان می‌توانند الزامات فنی، شروط ایمنی و محدودیت‌های وابسته به مأموریت وضع کنند و فروشنده‌ای را که آن‌ها را نمی‌پذیرد رد کنند. آنچه حکم به چالش می‌کشد، استفاده از برچسب امنیتی به‌عنوان سازوکار تنبیهی است وقتی مبنای اثباتی و آیینی آن برچسب تأمین نشده باشد.
مناقشه مرز تازه‌ای از حکمرانی برای مدل‌های مرزی آشکار می‌کند
تعارض قراردادی زیربنایی این بود که چه کسی مرز نهایی استفاده از مدل‌های عمومی قدرتمند را در محیط‌های طبقه‌بندی‌شده یا پرخطر کنترل می‌کند. Anthropic استدلال کرد Claude برای نظارت انبوه بر آمریکایی‌ها یا سلاح‌های مرگبار کاملاً خودمختار آماده نیست و خواست آن کاربردها مستثنی شوند. پنتاگون استدلال کرد تصمیم‌های عملیاتی قانونی باید در اختیار دولت بماند، نه یک ارائه‌دهندهٔ خصوصی هوش مصنوعی.
دادگاه این اختلاف را به‌عنوان پرسشی فنی حل نمی‌کند. حکم مارس گفت انتخاب سیاستی دربارهٔ اینکه ارتش کدام محصول هوش مصنوعی را به‌کار گیرد در صلاحیت دادگاه نیست. دعوا به‌جای آن بر این متمرکز شد که دولت پس از علنی‌شدن اختلاف، از نظر قانونی چه می‌تواند با تأمین‌کننده بکند.
این مسئلهٔ حکمرانی است که دیگر ارائه‌دهندگان مدل و خریداران سازمانی با دقت دنبال خواهند کرد. قراردادهای مدل‌های مرزی بیش‌ازپیش شامل سیاست‌های استفاده، کنترل‌های استقرار و محدودیت‌هایی است که به‌سادگی بر خرید سنتی نرم‌افزار منطبق نمی‌شوند. در محیط‌های با امنیت بالا، مشتری ممکن است حداکثر اختیار عملیاتی بخواهد در حالی که توسعه‌دهندهٔ مدل بر مرزهای ایمنی غیرقابل‌مذاکره اصرار کند. پروندهٔ Anthropic نشان می‌دهد وقتی خریدار دولت است، آن بندها می‌توانند به پرسش حقوق عمومی بدل شوند.
حکم Anthropic را برای استفادهٔ دولتی اجباری نمی‌کند
اثر عملی را نباید بزرگ‌نمایی کرد. حکم پنتاگون را ملزم نمی‌کند Claude بخرد یا محدودیت‌های استفاده‌ای را که Anthropic ترجیح می‌دهد بپذیرد. Reuters یادآور می‌شود دولت همچنان می‌تواند فروشندگان دیگر را برگزیند و یک اختلاف حقوقی جداگانه دربارهٔ سازوکار دیگری از پنتاگون حل‌نشده مانده است.
انتظار می‌رود دولت تجدیدنظر کند. بنابراین شکل نهایی سابقهٔ حقوقی می‌تواند تغییر کند. سازمان‌ها باید تصمیم فعلی را حکم نیرومند دادگاه ناحیه‌ای بدانند، نه آخرین سخن ممکن نظام تجدیدنظر.
حکم همچنین به‌طور مستقل ادعای فنی Anthropic را تأیید نمی‌کند که مدل‌های فعلی برای برخی کاربردهای نظامی بیش‌ازحد غیرقابل‌اعتمادند. آن موضع ایمنی Anthropic باقی می‌ماند. نقش دادگاه ارزیابی تلافی، روند منصفانه و اختیار قانونی بود، نه گواهی قابلیت اعتماد مدل. بنابراین نمی‌توان از این رأی نتیجه گرفت که محدودیت‌های استفادهٔ Anthropic از نظر فنی درست‌اند؛ فقط این را می‌گوید که دولت چگونه مجاز بوده به اختلاف واکنش نشان دهد.
این حکم چه چیزی را در حکمرانی و خرید هوش مصنوعی عوض می‌کند
برای برنامه‌های هوش مصنوعی بخش عمومی، پرونده معیار مستندسازی را بالا می‌برد: چرا یک فروشنده ریسک امنیتی تلقی می‌شود، نه صرفاً تأمین‌کننده‌ای نامناسب. برچسب‌های امنیتی می‌توانند پیامدهایی بسیار فراتر از یک قرارداد داشته باشند؛ بنابراین شواهد، آیین و تناسب بخشی از حکمرانی هوش مصنوعی می‌شوند.
برای شرکت‌های مدل، حکم فضای بیشتری حفظ می‌کند تا خطوط قرمز ایمنی را بیان کنند بدون آنکه به‌طور خودکار بپذیرند این کار توجیه حذف از روابط دولتی نامرتبط است. ریسک تجاری را حذف نمی‌کند، اما مشروعیت استفاده از ابزارهای امنیتی فوق‌العاده به‌عنوان اهرم در اختلاف قراردادی را تنگ‌تر می‌کند.
خریداران بخش خصوصی نیز باید توجه کنند. پرونده نشان می‌دهد چرا مسئولیت استقرار باید صریح باشد. ارائه‌دهندهٔ مدل می‌تواند سیاست‌های واسط برنامه‌نویسی و شروط قراردادی را کنترل کند، در حالی که مشتری تصمیم‌های مأموریتی و زیرساخت محلی را کنترل می‌کند. وقتی این مسئولیت‌ها تعارض پیدا کنند، قرارداد به مسیر خروجی تعریف‌شده نیاز دارد، نه به این فرض که یک طرف می‌تواند یک‌جانبه مرز ایمنی را بازتعریف کند.
اهمیت وسیع‌تر این است که حکمرانی هوش مصنوعی وارد نهادهای عادی قانون، خرید و آیین اداری می‌شود. پرسش‌های ایمنی مدل دیگر به کارت‌های سامانه یا سیاست‌های داوطلبانه محدود نیست. اکنون بر این اثر می‌گذارند که چه کسی می‌تواند به دولت بفروشد، کدام محدودیت‌ها از مذاکرهٔ قرارداد جان سالم به‌در می‌برند، و اختیارات امنیت ملی وقتی فروشنده علناً با دولت مخالفت می‌کند چگونه ممکن است به‌کار روند.