کراوداسترایک فالکن گاردین را معرفی کرده است؛ محصولی برای شناسایی و پاسخگویی به تهدیدهای مرتبط با عاملهای هوش مصنوعی که الگوی امنیت نقطه پایانی این شرکت را به عاملهای خودکار گسترش میدهد. تغییر اصلی یک داشبورد تازه برای مشاهده مصرف مدل نیست. هدف فالکن گاردین این است که پرامپت، هویت، فراخوانی ابزار و مهارت عامل را به اقدامهایی که پس از آن در سیستمعامل رخ میدهند متصل کند و کنترل را در همان جایی اعمال کند که اقدام اجرا میشود.
این رویکرد شکافی را هدف گرفته که با افزایش اختیار دستیارهای برنامهنویسی و دیگر عاملها آشکارتر میشود. یک عامل ممکن است اجازه ویرایش فایل، اجرای فرایند، فراخوانی سرویس و استفاده از اعتبار کاربر را داشته باشد. بررسی پرامپت نشان میدهد از عامل چه خواسته شده، اما دادههای زمان اجرا نشان میدهند دستگاه در عمل چه کرده است. فالکن گاردین میکوشد این دو دید را در یک مسیر بررسی امنیتی به هم متصل کند.
از فهرست عاملها تا کنترل اجرای آنها
کراوداسترایک میگوید حسگر فالکن میتواند عاملهای شناختهشده و استفادههای تأییدنشده از عاملها را روی نقاط پایانی ویندوز و مکاواس شناسایی کند، مشخص کند چه کسی آنها را مستقر کرده و وضعیت امنیتیشان را نشان دهد. مدیران همچنین میتوانند تعیین کنند کدام عاملهای پشتیبانیشده اجازه اجرا روی دستگاههای مدیریتشده را دارند تا سیاست دسترسی به یک کنترل قابل اجرا تبدیل شود.
قابلیت مهمتر، پیوند دادن رویدادهای زمان اجراست. به گفته شرکت، گاردین پرامپت، هویت، فراخوانی ابزار و استفاده از مهارت را به فرایندها و اقدامهای بعدی سیستم که در دادههای نقطه پایانی فالکن ثبت میشوند وصل میکند. تیم امنیت میتواند زنجیره اجرا را بازسازی کند، دامنه اثر را بسنجد و فعالیت مخرب یا عاملِ در معرض نفوذ را مهار کند.
این موضوع با نگاه صرفاً «ایمنی مدل» تفاوت دارد. ممکن است یک عامل دستور ظاهراً بیخطری دریافت کند، اما بهدلیل ابزار آلوده، اعتبارنامهای با دسترسی بیش از حد یا فرایند کاری دستکاریشده، اثر خطرناکی ایجاد کند. بنابراین پرسش امنیتی فقط این نیست که مدل پاسخ نامناسبی تولید کرده یا نه؛ باید دید اقدام حاصل از آن از مرز کنترل عبور کرده است یا خیر.
امنیت عاملها به معماری دو لایه نزدیک میشود
فالکن گاردین یک تفکیک معماری مفید را برجسته میکند. یک لایه تعامل را کنترل میکند: پرامپتها، دسترسی به مدل، جابهجایی داده و ارتباط با ابزارها یا امسیپی. لایه دیگر اجرای واقعی را کنترل میکند: فرایندها، فایلها، هویتها، فعالیت شبکه و دیگر اثرهای سطح میزبان.
کراوداسترایک از قبل لایه دوم را از طریق حسگر نقطه پایانی خود در اختیار دارد. گاردین زمینه مربوط به عامل را اضافه میکند تا رویدادهای دستگاه به تعاملی که آنها را ایجاد کرده متصل شوند. شرکت همزمان در حال توسعه یک دروازه بومی برای ترافیک هوش مصنوعی است، اما این قابلیت هنوز در مرحله پیش از بتا قرار دارد و قرار است در فصل بعد به عرضه عمومی برسد. بنابراین تیمها باید امکانات موجود امروز را از برنامه راه آینده جدا کنند.
این تفکیک در خرید و طراحی معماری اهمیت دارد. دروازه میتواند تعامل را پیش از رسیدن به مدل یا ابزار بررسی یا متوقف کند، اما ممکن است همه پیامدهای بعدی اجرای عامل را نبیند. کنترل نقطه پایانی اجرای محلی را میبیند، اما جای کنترل ترافیک مدل، سرویسهای ابری یا زیرساخت عاملهای ابری را نمیگیرد. یک معماری تولیدی ممکن است به هر دو نیاز داشته باشد.
یکپارچگی با گوگل کلاد مرز کنترل را گسترش میدهد
کراوداسترایک همچنین اعلام کرده فالکن گاردین از طریق دروازه عامل گوگل برای برنامههای هوش مصنوعی سازمانی ساختهشده روی گوگل کلاد گسترش مییابد. این یکپارچگی برای خطرهایی مانند تزریق پرامپت، نشت داده حساس و فعالیت مخرب هوش مصنوعی طراحی شده و از زمینه امنیتی فالکن برای تصمیمهای سیاستی و شناسایی تهدید استفاده میکند.
اهمیت این بخش در آن است که بسیاری از عاملهای سازمانی کاملاً روی لپتاپ اجرا نخواهند شد. آنها ممکن است مدلهای مدیریتشده، سرویسهای ابری، ابزارهای دوردست و برنامههای نرمافزار بهعنوان خدمت را فراخوانی کنند. معماری امنیت زمان اجرا اگر در مرز فرایند محلی متوقف شود، بخشی از این مسیر را از دست میدهد.
یکپارچگی با گوگل کلاد نشان میدهد کراوداسترایک قصد دارد این محیطها را به هم وصل کند: دادههای نقطه پایانی زمینه اجرای واقعی را فراهم میکنند و دروازه و اتصالهای ابری دیدی از ارتباطات و سرویسهای هوش مصنوعی میدهند. میزان یکپارچگی واقعی این کنترل به پوشش عاملها، مدلها، دروازهها و محیطهای اجرایی پشتیبانیشده بستگی خواهد داشت.
زنجیره علت و اثر مهمتر از عددهای تبلیغاتی است
صفحه محصول کراوداسترایک اعدادی درباره اثربخشی و تأخیر ارائه میکند، اما این ارقام بهتنهایی دلیل مناسبی برای ارزیابی Guardian نیستند. تا وقتی روش آزمون و مقایسه مستقل در دسترس نباشد، چنین نتایجی باید ادعای خود فروشنده تلقی شوند.
پیشنهاد معماریِ قابلآزمونتر، همان زنجیرهای است که تعامل عامل را به اثر آن روی سیستم وصل میکند. تیم امنیت میتواند مستقیم بررسی کند آیا گزارش حادثه درخواست اولیه کاربر را نشان میدهد، عامل و هویت درگیر را مشخص میکند، فراخوانی ابزار یا مهارت را ثبت میکند و سپس تحلیلگر را تا فرایند، فایل، شبکه یا تغییری در اعتبارنامه هدایت میکند. همچنین باید روشن باشد سیاست در کدام مرز میتواند اقدام را متوقف کند.
با این پرسشها، «امنیت عامل هوش مصنوعی» از یک عنوان کلی به مسئلهای قابل اندازهگیری برای کنترل سامانه تبدیل میشود.
پیش از استقرار چه چیزهایی باید آزموده شود
ارزیابی عملی بهتر است از پوشش شروع شود، نه از دامنهای که در بازاریابی توصیف شده است. تیمها باید بدانند کدام عاملها واقعاً شناسایی میشوند، چه سیستمها و مسیرهای اجرایی زیر پوشش هستند، هنگام فراخوانی ابزار دوردست چه رخ میدهد و کدام اقدامها قابل مسدودسازی هستند و کدام فقط مشاهده میشوند.
موارد مبهم نیز باید آزموده شوند. یک عامل برنامهنویسی مجاز ممکن است در جریان کار عادی پوسته فرمان اجرا کند، تنظیمات را تغییر دهد، اسرار را بخواند یا با سرویس بیرونی ارتباط بگیرد. امنیت مفید در زمان اجرا باید بتواند خودکارسازی مورد انتظار را از رفتار ناشی از نفوذ جدا کند، بدون اینکه عامل عملاً غیرقابل استفاده شود.
در نهایت، لایه تعامل و لایه اجرا باید در یک مدل حادثه دیده شوند. اگر تزریق پرامپت باعث شود عامل ابزار مخربی را فراخوانی کند و آن ابزار یک اعتبارنامه را تغییر دهد یا فرایندی اجرا کند، تحلیلگر به یک زنجیره شواهد نیاز دارد، نه چند گزارش جدا که باید دستی کنار هم قرار گیرند.
اهمیت فالکن گاردین در این است که همین زنجیره را در مرکز محصول قرار میدهد. نتیجه گستردهتر این نیست که امنیت نقطه پایانی بهتنهایی خطر عاملها را حل میکند؛ بلکه سیاست زمانی عملیاتی میشود که بتوان آن را به کاری که عامل واقعاً اجرا میکند متصل کرد.