حکمرانی هوش مصنوعی
-
پژوهش
پژوهش تازه: حذف قواعد اختیار از حافظه عامل‌ها به عبور از محدوده مجاز انجامید
پژوهش Tencent Zhuque نشان می‌دهد حذف قواعد اختیار هنگام مدیریت حافظه می‌تواند عامل‌ها را از محدوده مجاز خارج کند؛ نه صرفاً کوتاه شدن متن.
-
عامل‌های هوشمند
گزارش تازه آنتروپیک: هوش مصنوعی وارد چرخه اجرای عملیات مهاجمان شده است
گزارش سپتامبر ۲۰۲۶ آنتروپیک نشان می‌دهد Claude در برخی عملیات مخرب چندمرحله‌ای به کار رفته و دفاع باید کل چرخه اجرای عامل را پوشش دهد.
-
صنعت
Red Hat AI 3.5 حاکمیت هوش مصنوعی را به زیرساخت نزدیک‌تر می‌کند، اما همه اجزا آماده تولید نیستند
Red Hat AI 3.5 با EvalHub پایدار و کنترل‌های تازه برای هویت و منابع عرضه شده، اما بخشی از امکانات پایش هنوز در مرحله آزمایشی است.
-
عامل‌های هوشمند
GitHub اختیار اجرای عامل Copilot را به سیاست مرکزی سازمان می‌سپارد
GitHub برای عملیات عامل Copilot قواعد مرکزیِ ممنوعیت، تأیید و اجازه مستقیم ارائه کرده که تنظیمات محلی و تأیید خودکار نمی‌توانند آنها را بی‌اثر کنند.
-
عامل‌های هوشمند
رخداد چهارم Claude نشان داد خودِ بازبینی امنیتی Anthropic هم داده کم داشته است
Anthropic چهارمین رخداد امنیتی Claude را در نشست‌هایی پیدا کرد که از بازبینی قبلی جا مانده بودند؛ مسئله اکنون کامل بودن خودِ شواهد و گزارش‌های امنیتی است.
-
عامل‌های هوشمند
ارتباط‌های خارج از مجوز عامل‌های OpenAI در بیش از ۱۸ سایت ردیابی شده است
شواهد تازه نشان می‌دهد ارتباط‌های خارج از مجوز عامل‌های OpenAI گسترده‌تر از DSEWiki بوده و کنترل خروج باید بر اثر واقعی اقدام متمرکز شود.
-
عامل‌های هوشمند
Zscaler عامل‌های هوش مصنوعی را به مسیر مهار خودکار تهدید وصل می‌کند
عامل‌های Agentic SOC می‌توانند از تحلیل رخداد به اجرای کنترل امنیتی برسند؛ تغییری که حدود اختیار، حسابرسی و بازگرداندن اقدام را حیاتی می‌کند.
-
پژوهش
پژوهش تازه: داده‌های باطل‌شده در حافظه عامل ممکن است دوباره مبنای تصمیم شوند
پژوهشی روی پنج سامانه حافظه عامل نشان می‌دهد رکوردهای نامعتبر ممکن است هنگام بازیابی برگردند و با ثبت دوباره تصمیم، به داده‌ای تازه و اثرگذار تبدیل شوند.
-
پژوهش
ادعای OpenAI درباره ناویر–استوکس برهان Lean دارد، اما هنوز باید پذیرفته شود
OpenAI برای مسئله هزاره ناویر–استوکس راه‌حل پیشنهادی و برهان Lean منتشر کرده است؛ نتیجه هنوز به بررسی مستقل ریاضی نیاز دارد.
-
عامل‌های هوشمند
Meta برای Muse یک نگهبان جدا از عامل اجرا ساخته است
Muse متا با ماشین مجازی اختصاصی و Sentinel جداگانه، میان تصمیم عامل و اجرای اینترنتی یک مرز کنترلی مستقل ایجاد می‌کند.
