هیئت ثبات مالی (FSB)، نهادی که کار مقام‌های مالی ۲۴ حوزه قضایی را هماهنگ می‌کند و گزارش‌هایش را به گروه بیست ارائه می‌دهد، روز ۱۵ اکتبر ۲۰۲۶ نسخه نهایی رهنمودهای خود را درباره شیوه به‌کارگیری هوش مصنوعی در بانک‌ها، شرکت‌های بیمه و دیگر نهادهای مالی منتشر کرد. این گزارش ۱۲ رویه سالم را برمی‌شمارد و در مقایسه با پیش‌نویسی که در ماه ژوئن به نظرخواهی عمومی گذاشته شده بود، توجه بسیار بیشتری به عامل‌های هوش مصنوعی دارد؛ سامانه‌هایی که می‌توانند کارهای چندمرحله‌ای را با دخالت اندک انسان برنامه‌ریزی و اجرا کنند.

این رویه‌ها در دو دسته قرار می‌گیرند. چهار مورد به حکمرانی در سطح کل سازمان مربوط است: نقش هیئت‌مدیره و مدیران ارشد در هم‌سو کردن هوش مصنوعی با راهبرد و میزان ریسک‌پذیری، تقسیم روشن نقش‌ها و مسئولیت‌ها، گنجاندن ریسک‌های هوش مصنوعی در چارچوب‌های موجود مدیریت ریسک همراه با مستندسازی مناسب، و یادگیری مستمر. هشت مورد دیگر چرخه عمر هر سامانه را دنبال می‌کند: سنجش اهمیت هر کاربرد، انتخاب فناوری، حکمرانی داده، توضیح‌پذیری، ارزیابی عملکرد، نظارت انسانی، ریسک‌های سایبری و فناوری اطلاعات، و وابستگی به تأمین‌کنندگان بیرونی.

ملموس‌ترین تغییرها در بخش مربوط به عامل‌ها دیده می‌شود. متن نهایی از نهادها می‌خواهد نظارت انسانی را با کنترل‌های قطعی و از پیش برنامه‌نویسی‌شده ترکیب کنند؛ کنترل‌هایی که در «لایه کنترل» جای می‌گیرند، یعنی همان لایه فنی که تعیین می‌کند عامل چه کاری مجاز است انجام دهد. نمونه‌ها عبارت‌اند از منع اقداماتی که از حد ریسک‌پذیری نهاد فراتر می‌رود، اجرای عامل‌ها در محیط‌های ایزوله در صورت امکان، و تعیین آستانه‌هایی که عبور از آن‌ها عامل را ناگزیر به گرفتن تأیید یک انسان می‌کند؛ برای مثال پیش از پرداختی بالاتر از مبلغی معین یا اقدامی با پیامد برگشت‌ناپذیر. هدف‌ها نیز باید به گام‌های جداگانه با بازبینی میان آن‌ها شکسته شوند. گزارش همچنین از سازوکارهای توقف اضطراری سخن می‌گوید که باید از پیش آزموده شوند و بتوانند عامل را متوقف یا دسترسی‌اش به سامانه‌ها و ابزارها را قطع کنند، و نیز از آزمون‌های تیم قرمز برای سنجش این‌که عامل در موقعیت دشوار موضوع را به انسان ارجاع می‌دهد یا به‌شکلی ایمن از کار بازمی‌ایستد.

ثبت و ردگیری فعالیت‌ها نیز اهمیتی مشابه یافته است. هر عامل باید شناسه‌ای یکتا داشته باشد تا از کاربران انسانی متمایز شود، و نهاد باید بتواند بازسازی کند که چه چیزی یک اقدام را آغاز کرد، چه داده‌ها و ابزارهایی به کار رفت و چه گام‌هایی پس از آن برداشته شد. برای هر کاربرد مبتنی بر عامل باید فردی مشخص پاسخ‌گو باشد و قراردادها با تأمین‌کنندگان بیرونی باید مسئولیت حقوقی را روشن کنند. در جایی که بازبینی انسانی هم‌زمان عملی نیست، این نهاد پایش عامل‌ها به‌وسیله سامانه‌های دیگر هوش مصنوعی را می‌پذیرد، اما تأکید می‌کند که مسئولیت نهایی همچنان بر دوش نهادها و افراد است.

به گزارش رویترز، هیئت ثبات مالی بندی از پیش‌نویس ژوئن را نیز حذف کرده که پیشنهاد می‌کرد در تخصیص کنترل‌ها با عامل‌ها مانند «کارکنان مصنوعی» رفتار شود؛ این تعبیر در نسخه نظرخواهی واقعاً وجود داشت. گزارش نهایی در عوض می‌گوید عامل‌ها مانند انسان استدلال نمی‌کنند و ممکن است هدف‌های از پیش تعیین‌شده را به شکلی غیرمنتظره تفسیر کنند. به گفته این نهاد، بازخوردهای دریافتی همچنین باعث شد بحث مزایا و ریسک‌ها گسترده‌تر شود، از جمله نقش هوش مصنوعی به‌عنوان تقویت‌کننده نیروی کار در کنار خطر افت مهارت کارکنان، و رهنمودهایی برای نهادهای کوچک‌تر و ریسک اشخاص ثالث افزوده شود.

انتشار این گزارش در زمانی صورت می‌گیرد که مقام‌های مالی با دقت بیشتری به هوش مصنوعی می‌نگرند. اندرو بیلی، رئیس هیئت ثبات مالی و رئیس کل بانک انگلستان، در نامه‌ای به وزیران دارایی و رؤسای بانک‌های مرکزی گروه بیست که پیش از نشست ۱۵ اکتبر آنان نوشته شد، بر ریسک‌های مرتبط با هوش مصنوعی انگشت گذاشت و این رویه‌های نهایی را در شمار گزارش‌های تحویلی به این گروه آورد.

دامنه اثر این سند محدود است. هیئت ثبات مالی تصریح می‌کند که این رویه‌ها استاندارد بین‌المللی نیستند، الگوی خاصی برای به‌کارگیری هوش مصنوعی تحمیل نمی‌کنند و جای الزامات قانونی هر کشور را نمی‌گیرند. وزن آن بیشتر از این‌جا می‌آید که اعضایش مقام‌های ملی هستند و می‌توانند از این متن در کار نظارتی بهره بگیرند، و نیز از درخواست صریح این نهاد که هیئت‌مدیره‌ها و مدیران ارشد هنگام بازنگری در حکمرانی هوش مصنوعی به آن مراجعه کنند. خود این نهاد می‌پذیرد که رویکردش به سامانه‌های عامل‌محور و چندعاملی هنوز در آغاز راه است و شاید با بلوغ این فناوری به بررسی کامل‌تری نیاز داشته باشد.

منابع