Anthropic در ۱۵ اکتبر ۲۰۲۶ اعلام کرد دسترسی شبه‌کارمندی به تیمی از METR، مؤسسه‌ی غیرانتفاعی ارزیابی مدل‌های مرزی هوش مصنوعی، داده است. METR نتایج ارزیابی ریسک خود را منتشر خواهد کرد. این اقدام در پی تعهد اخیر شرکت به ارزیابی بیرونی قوی‌تر و امضای White House Accord on Super Intelligence است که از شرکت‌ها خواسته با حسابرسان یا ارزیابان مستقل همکاری کنند.

شش نفر از کارکنان METR با سخت‌افزار شرکتی، فضای اداری و ابزارهای داخلی onboard شده‌اند که به گفته‌ی Anthropic تقریباً هم‌سطح دسترسی تیم‌های ارزیابی ریسک خود شرکت است. خارج از چند دسته‌ی مشخص مثل داده‌ی مشتریان، اطلاعات مشمول رازداری وکیل-موکل و جزئیات معین معماری مدل، کارکنان تشویق می‌شوند اطلاعات را همان‌طور با METR در میان بگذارند که با همکار حوزه‌ی ریسک هم‌راستایی می‌گذارند.

Anthropic استدلال می‌کند مدل‌های قوی‌تر به ارزیابی ایمنی سخت‌تر نیاز دارند، اما همه‌ی واقعیت‌های مرتبط را نمی‌توان بدون کمک به مهاجمان یا افشای اسرار تجاری منتشر کرد. پاسخ شرکت دادن دسترسی عمیق به ارزیابان مورد اعتماد و انتشار نتیجه‌گیری مستدل از سوی آن‌هاست. چهار شرط می‌شمارد: تخصص ارزیابی مرزی، استقلال از سهام یا وابستگی عملیاتی، دسترسی کافی به جزئیات آموزش و محافظ‌ها، و آزادی انتشار.

قواعد انتشار مهم است. Anthropic می‌گوید نمی‌تواند تحلیل‌های METR درباره‌ی سطح ریسک، حوادث یا رویه‌ها را وتو کند، هرچند می‌تواند خواستار حذف بخش‌های حساس با تعریف محدود شود. گزارش همان‌روز TechCrunch همین چارچوب دسترسی سطح کارمند را تأیید می‌کند و به زمان‌بندی در میان افشاهای پیاپی خطاهای عامل‌ها اشاره دارد که فشار برای نظارت بیرونی را تندتر کرده است.

METR تنها مسیر ارزیابی نیست. شرکت می‌گوید با SecureBio و Accenture نیز کار می‌کند و گفت‌وگوهای اولیه‌ای با گروه‌های دیگر از جمله Hugging Face دارد. طی سال گذشته METR چند Risk Report آنتروپیک را بررسی کرده بود؛ توافق تازه این رابطه را از بازبینی سند به دسترسی مقیم عمیق‌تر می‌کند.

Anthropic با احتیاط این چیدمان را به نظارت بانکی تشبیه می‌کند؛ جایی که بازرسان مقیم داخل مؤسسات بزرگ می‌نشینند چون از روی اسناد عمومی تصویر کامل ریسک دیده نمی‌شود. نسخه‌ی هوش مصنوعی را گامی اولیه به‌سوی نظارت ایمنی قوی‌تر می‌داند، نه یک رژیم مقرراتی تمام‌شده.

Anthropic روشن می‌کند که این اقامت بخشی از یادگیری با چند شریک ارزیابی است، نه یک حرکت تبلیغاتی تکی. سرعت انتشار نخستین نوشته‌های عمومی METR و میزان جزئیات فنی که از غربال حذف جان سالم به در می‌برد مشخص می‌کند پژوهشگران بیرونی برنامه را شفافیت واقعی می‌بینند یا دسترسی کنترل‌شده برای نمایش.

این‌که نخستین گزارش‌های METR چه را پوشش می‌دهند، اختلاف‌های حذف متن چگونه حل می‌شود و آیا دیگر آزمایشگاه‌های مرزی به استاندارد دسترسی شبه‌کارمندی می‌رسند هنوز باز است. فعلاً هسته‌ی تأییدشده باریک‌تر و همچنان مهم است: یک ارزیاب مستقل نام‌دار دسترسی عمیق و مستمر داخل Anthropic گرفته و متعهد به انتشار است.

منابع