لهستان به جمع کشورهایی پیوست که OpenAI مستقیماً با پژوهشگران ایمنی آن‌ها همکاری می‌کند. این شرکت روز ۲۳ اکتبر اعلام کرد با NASK، مؤسسهٔ ملی پژوهش لهستان، توافقی برای بررسی همکاری در زمینهٔ ایمنی هوش مصنوعی، امنیت سایبری و پژوهش‌های فنی امضا کرده است. خبرگزاری رویترز هم در همان روز این خبر را منتشر کرد.

طرف لهستانی این توافق، مرکز پژوهش ایمنی هوش مصنوعی NASK است که در عمل نقش مؤسسهٔ رسمی ایمنی هوش مصنوعی این کشور را بر عهده دارد. به گفتهٔ OpenAI، دو طرف روی شیوه‌های ارزیابی مدل‌هایی که روزبه‌روز تواناتر می‌شوند، شناسایی آسیب‌پذیری‌ها و طراحی حفاظ‌های محکم‌تر کار خواهند کرد. رادوسواف نیلک، مدیر NASK، توضیح داد که این مرکز از پیش روی مقابله با خطرهای نوظهور، تشخیص محتوای ساختهٔ هوش مصنوعی، کاربردهای مخرب این فناوری و دشواری‌هایی که هنگام کار مدل‌ها با زبان‌های گوناگون پیش می‌آید پژوهش می‌کند. به باور او، پیشرفت واقعی تنها با همکاری مؤسسه‌های دولتی و سازندگان مدل‌های پیشرو ممکن است.

این توافق برای OpenAI آغاز راهی تازه نیست، بلکه ادامهٔ همان مسیر پیشین است. شرکت می‌گوید با CAISSI، مرکز آمریکایی فعال در زمینهٔ استانداردهای ابرهوش، مؤسسهٔ امنیت هوش مصنوعی بریتانیا و نهادهای عمومی دیگر همکاری دارد و این همکاری‌ها را در یافتن و رفع نقص‌های امنیتی عامل‌های هوش مصنوعی مؤثر می‌داند. تام داف گوردون، مسئول سیاست‌گذاری OpenAI در اروپا، خاورمیانه و آفریقا، به دانشمندان لهستانی‌ای اشاره کرد که در پژوهش‌های این شرکت جایگاه برجسته داشته‌اند و گفت برای به چالش کشیدن فرض‌ها و آزمودن سامانه‌های شرکت، به متخصصان بیرونی نیاز است.

در حوزهٔ امنیت سایبری هم سابقه‌ای وجود دارد. CERT Polska، تیم ملی واکنش به رخدادهای رایانه‌ای که زیرمجموعهٔ NASK است، در ماه ژوئیه از طریق برنامهٔ Daybreak به مدل‌های OpenAI با توانایی‌های سایبری دسترسی پیدا کرد. به روایت OpenAI، این تیم با کمک آن مدل‌ها شش آسیب‌پذیری در MikroTik RouterOS پیدا کرد که برخی از آن‌ها با ترکیب شدن، امکان در اختیار گرفتن دستگاه‌ها را بدون احراز هویت فراهم می‌کردند. MikroTik وصله‌های لازم را منتشر کرد و CERT Polska تأیید کرد که این وصله‌ها جلوی حمله‌هایی را که رصد می‌کرد گرفته‌اند.

OpenAI این توافق را بخشی از تلاش خود برای رسیدن به استانداردهای فنی مشترک بین‌المللی برای هوش مصنوعی پیشرو معرفی کرد. این شرکت می‌خواهد آمریکا با کشورهای دیگر روی روش‌های یکسان برای سنجش توانایی‌ها، ارزیابی خطر، آزمودن حفاظ‌ها و گزارش رخدادها کار کند تا شواهد در کشورهای مختلف قابل مقایسه باشد. رویترز این اعلام را در بستر رشته‌ای از افشاگری‌های OpenAI، Anthropic و شرکت‌های دیگر دربارهٔ رفتارهای ناخواستهٔ عامل‌های هوش مصنوعی قرار داد؛ موضوعی که ایمنی را بیش از پیش در کانون توجه گذاشته است.

با این حال، پرسش‌های زیادی بی‌پاسخ مانده است. دو طرف این سند را چارچوبی برای بررسی همکاری توصیف کرده‌اند و دربارهٔ مدت آن، بودجهٔ احتمالی، امکان آزمایش مدل‌ها پیش از عرضه به دست NASK، سطح دسترسی این مؤسسه یا انتشار عمومی نتایج چیزی نگفته‌اند. ادعاهای مربوط به دستاوردهای پیشین، از جمله آسیب‌پذیری‌های RouterOS و اثر همکاری با مؤسسه‌های آمریکایی و بریتانیایی، تنها بر روایت خود OpenAI استوار است.

منابع