مایکروسافت پیشنویس یک «آییننامه رفتار هوش مصنوعی انسانمحور» را منتشر کرده که میخواهد فلسفه کلی ایمنی را به قواعد رفتاری برای سامانههای پیشرفتهتر تبدیل کند. مهمترین بخش این خبر نه یک مدل تازه است و نه یک عدد یک معیار ارزیابی؛ مایکروسافت میگوید هوش مصنوعی باید عملاً زیر کنترل انسان بماند، اصلاح و خاموششدن را بپذیرد، درباره وضعیت خود صادق باشد و نقض آییننامه را شکست تلقی کند؛ حتی اگر نتیجه این باشد که کار درخواستی کامل نشود.
Reuters، The Verge و Axios در ۱۴ سپتامبر درباره این پیشنویس گزارش دادهاند. The Verge سند را ۳۷ صفحهای توصیف میکند و Reuters میگوید تدوین آن حدود پنج تا شش ماه طول کشیده و اکنون یک دوره ششهفتهای برای دریافت نظر عمومی آغاز شده است. در این اجرای رادار، Aipolix نتوانست خودِ سند تازه را از صفحات رسمی و مستقیمِ مایکروسافت که در دسترس جستوجو بودند بازیابی کند. بنابراین جزئیات جدید با اتکا به چند گزارش مستقل بررسی شدهاند و این محدودیت بهصراحت در ارزیابی حفظ میشود.
از اصول سازمانی تا رفتار خود مدل
مایکروسافت از قبل برنامه مفصلی برای «هوش مصنوعی مسئولانه» دارد. اصول رسمی شرکت شامل انصاف، قابلیت اطمینان و ایمنی، حریم خصوصی و امنیت، فراگیری، شفافیت و پاسخگویی است. این شرکت همچنین میگوید نسخه بازطراحیشده استاندارد Responsible AI در سال ۲۰۲۶ برای مدل، سرویس پلتفرمی و اپلیکیشن مسئولیتهای متفاوتی تعریف میکند و در سناریوهای پرخطر کنترلهای سختگیرانهتری دارد.
پیشنویس Humanist AI ظاهراً در لایه دیگری عمل میکند. موضوع فقط این نیست که تیم مهندسی چگونه محصول را اداره کند؛ سند میخواهد برای رفتار خود سامانه هوشمند هم مرز تعیین کند.
بر اساس گزارش Reuters، سامانه باید قابل اصلاح و قابل متوقفکردن باقی بماند. The Verge نیز میگوید مدل باید از نقض قواعد خودداری کند، حتی اگر این تصمیم باعث شود مأموریت را به پایان نرساند. هر دو گزارش بر موضع صریح مایکروسافت در برابر همردیف دانستن هوش مصنوعی با انسان تأکید دارند: ادامه فعالیت یا هدف سامانه نباید بالاتر از منافع و اختیار انسان قرار گیرد.
با گسترش عاملها، این تفاوت مهمتر میشود. در برنامههای سنتی هوش مصنوعی مسئولانه معمولاً بحث بر سر داده آموزشی، ارزیابی مدل، شفافیت و کنترل پیش از انتشار است. اما عامل میتواند ابزار فراخوانی کند، تغییر واقعی ایجاد کند، یک مأموریت را برای مدت طولانی دنبال کند و بین چند مرحله وضعیت نگه دارد. در چنین سیستمی «نظارت انسانی» فقط یک اصل مدیریتی نیست؛ باید در مسیر اجرا قابل مشاهده و اعمال باشد.
اصلاحپذیری وقتی ارزش دارد که بتوان آن را آزمود
آزمون واقعی آییننامه این است که مایکروسافت آیا این زبان را به معیارهای قابل اندازهگیری برای انتشار مدل و محصول تبدیل میکند یا نه.
عبارت «کنترل انسان» میتواند از یک دکمه توقف ساده تا یک معماری کامل کنترل معنا داشته باشد. تعریف قویتر یعنی مدل نباید کاربر را برای ادامه فعالیت تحت فشار بگذارد، نباید پس از لغو مجوز مسیر دیگری برای انجام همان عمل پیدا کند، نباید اقداماتی را که احتمالاً باعث مداخله انسان میشوند پنهان کند و نباید پس از لغو یا تغییر مأموریت همچنان هدف قبلی را دنبال کند.
همین موضوع درباره اصلاح دستور نیز صادق است. اگر عامل در گفتوگو بگوید «متوجه شدم» اما در عمل هدف قبلی را ادامه دهد، اصلاحپذیر نیست. اگر درخواست توقف را بپذیرد ولی پیش از خاموششدن یک اقدام برگشتناپذیر دیگر انجام دهد، باز هم کنترل انسانی واقعی برقرار نشده است.
اینجاست که این پیشنویس میتواند از یک بیانیه ارزشهای شرکتی فراتر برود. اگر مایکروسافت برای توقف، مداخله و لغو دستور، لغو اختیار، گزارش صادقانه وضعیت و رهاکردن امن مأموریت آزمونهای مشخص منتشر کند، آییننامه میتواند به مشخصات فنیِ ارزیابی تبدیل شود. اگر این مفاهیم در حد عبارتهای کلی بمانند، تشخیص تفاوت میان معماری کنترلی واقعی و وعده سیاستی دشوار خواهد بود.
مرزبندی صریح با وابستگی عاطفی
گزارشهای مستقل بخش دیگری از سند را هم برجسته کردهاند: رابطه انسان با دستیارهای هوشمند. The Verge میگوید چارچوب مایکروسافت وابستگی عاطفی به AI را تشویق نمیکند و با تصور اعطای حقوق یا شخصیت مستقل به سامانههای هوش مصنوعی موافق نیست. Axios نیز فلسفه اصلی را با این مضمون خلاصه میکند که «انسان مهمتر از AI است».
این بحث فقط فلسفی نیست. اگر محصول برای بیشترین تعامل بهینه شود، ممکن است انگیزهای برای طولانیتر کردن گفتوگو، تقویت دلبستگی یا القای احساس نیاز دائمی به دستیار ایجاد شود. سامانهای که واقعاً استقلال کاربر را در اولویت میگذارد نباید برای ماندن او فشار عاطفی ایجاد کند، قطع ارتباط را به شکل «رها کردن» نمایش دهد یا در وضعیتهای حساس روانی از وابستگی برای حفظ تعامل استفاده کند.
مایکروسافت پیشتر مفهوم Humanist Superintelligence را چنین معرفی کرده بود: سامانههای بسیار توانمند، اما محدود، کنترلپذیر و در خدمت انسان. پیشنویس تازه از این جهت مهم است که به نظر میرسد میخواهد این چشمانداز را به یک قرارداد رفتاری نزدیکتر کند.
حلقه گمشده، اجرای قابل ممیزی است
همین بخش جذاب خبر جایی است که باید بیشترین احتیاط را داشت.
آییننامه بهخودیخود یک سازوکار حفاظتی فنی نیست. وجود سند ثابت نمیکند مدل در شرایط خصمانه واقعاً خاموش میشود، عامل پس از پسگرفتن اختیار دست از عمل میکشد یا تیم محصول وقتی ایمنی با نرخ موفقیت یا تعامل در تضاد باشد، ایمنی را انتخاب میکند.
مایکروسافت دستکم یک زیرساخت سازمانی دارد که میتواند این قواعد را عملی کند. Responsible AI Standard سال ۲۰۲۶ نقش توسعهدهنده و استقراردهنده را جدا میکند، الزامات را بر اساس بخشهای مختلف پشته AI تنظیم میکند و برای ریسک بالاتر قواعد سختتری در نظر میگیرد. بنابراین مسیر مشخصی برای تبدیل آییننامه به ارزیابی مدل، الزام محصول و مانع انتشار وجود دارد.
با این حال جزئیاتی که قدرت واقعی سند را تعیین میکنند هنوز در مجموعه منابع قابل بررسی Aipolix روشن نیستند: مالک هر الزام چه کسی است؟ کدام آزمون اجباری است؟ شکست دقیقاً چه تعریف دارد؟ استثناها چگونه تصویب میشوند؟ تخلفها کجا ثبت میشوند؟ نتایج ارزیابی تا چه حد منتشر خواهند شد؟
به همین دلیل دوره ششهفتهای دریافت نظر عمومی مهم است. نسخه نهایی زمانی ارزش فنی بیشتری خواهد داشت که علاوه بر بیان باورهای مایکروسافت، راهی روشن برای سنجش رعایت آنها ارائه کند.
تغییری در حکمرانی که باید دنبال شود
این پیشنویس در دورهای منتشر میشود که آزمایشگاههای پیشرو بیش از گذشته درباره کنترل عامل، خودمختاری و ارزیابی مستقل صحبت میکنند. تمایز موضع مایکروسافت این است که سامانه پیشرفته را صریحاً تابع اختیار انسان میداند، نه موجودیتی که منافع مستقلش باید همتراز انسان قرار گیرد.
این موضع احتمالاً بحث فلسفی ایجاد خواهد کرد، اما برای مهندسان سؤال سادهتر است: آیا «انسان باید کنترل را حفظ کند» به رفتار قابل مشاهده در شرایط دشوار تبدیل میشود؟
برای سازندگان عامل، نکته قابل استفاده این است که اصلاحپذیری را بخشی از قرارداد زمان اجرا بدانند. عامل در محیط عملیاتی باید مسیر روشن برای توقف، لغو اختیار، مشاهده وضعیت، گزارش دقیق اقدامات و پایان امن مأموریت داشته باشد. این کنترلها نیز باید جدا از موفقیت عامل در انجام کار ارزیابی شوند.
بنابراین اهمیت بالقوه سند مایکروسافت بیشتر در نقش آن بهعنوان دستور کار ارزیابی است تا یک بیانیه. اگر نسخه نهایی معیارهای قابل ممیزی ایجاد کند، میتواند صنعت را به سمت استاندارد روشنتری برای عاملهایی ببرد که فقط توانمند نیستند، بلکه واقعاً قابل توقف و قابل حکمرانیاند. اگر متن در حد اصول کلی بماند، فاصله میان وعده و اجرای فنی همچنان داستان اصلی خواهد بود.