عاملهای هوشمند
-
پژوهش
پنلهای ساختگی میتوانند عوامل LLM را به اقدام روی نتایج غیرقابلدانستن وادارند
یک مطالعهٔ قابلبازتولید در arXiv مییابد که پنلهای بهظاهر معتبر ساختگی میتوانند برخی عوامل LLM را به اقدام روی نتایج غیرقابلدانستن سوق دهند، حتی وقتی عدمقطعیت را میشناسند.
-
عاملهای هوشمند
استاندارد سختافزار مدل Anthropic به عوامل هوش مصنوعی رابط مشترک با ماشینهای فیزیکی میدهد
استاندارد سختافزار مدل Anthropic به عوامل هوش مصنوعی رابطی مشترک برای تجهیزات آزمایشگاهی و صنعتی میدهد، با آزمایشهای اولیه و محدودیتهای ایمنی صریح.
-
پژوهش
openJiuwen مهار عامل کدنویسی را به لایهٔ سامانهای قابلاندازهگیری تبدیل میکند
openJiuwen یک مهار ترکیبی و سازگار در زمان اجرا برای عامل کدنویسی پیشنهاد میکند و نشان میدهد چرا حسابرسی معیار با مدل همتراز برای مهندسی عامل اهمیت دارد.
-
عاملهای هوشمند
Broadcom مجوز عامل AI را به یک صفحهٔ کنترل خارجی منتقل می کند
AgentMinder مجوز عامل AI سازمانی را به خارج از زمان اجرا منتقل می کند و هویت، منشأ ماموریت و زمینه سیاست را بخشی از مرز امنیتی می کند.
-
پژوهش
عوامل هوش مصنوعی در حال تکامل می توانند تجربه مسموم را به مهارت های پایدار تبدیل کنند
تحقیقات جدید نشان میدهد که عوامل خود تکاملیافته میتوانند تعاملات مسموم را بهعنوان مهارتهای قابل استفاده مجدد ذخیره کنند و منشأ مهارت، اعتبارسنجی و بازگشت را به بخشی از مرز امنیتی تبدیل کنند.
-
متنباز
Strix عوامل هوش مصنوعی را به نفوذگرهای مستقل تبدیل می کند، اما معیار 96% آن به زمینه نیاز دارد.
Strix از عوامل هوش مصنوعی مستقل برای تأیید آسیبپذیریها با PoCs استفاده میکند. Aipolix معماری، ادغام عامل کدنویسی و 96% ادعای XBEN خود را بررسی می کند.
-
متنباز
User Scanner به عوامل هوش مصنوعی OSINT بازگشتی میدهد و باعث میشود تا کنترل دامنه مشکل حاکمیت واقعی را ایجاد کند.
User Scanner v1.5.1 MCP را به اسکن متقاطع OSINT بازگشتی اضافه می کند. Aipolix بررسی میکند که چرا مجوزهای عامل نیاز به تبار بررسی دامنه دارند.
-
کسبوکار
تحول AI-native متا به محدودیتهای بهرهوری agentها برخورد کرد
تحقیق رویترز درباره Project OT نشان میدهد برنامه AI-native متا با محدودیتهای بهرهوری، reliability، security و طراحی سازمانی روبهرو شد.
-
عاملهای هوشمند
گوگل limit هزینه agent را به کنترل runtime تبدیل میکند
گوگل کلاد quotaهای pooled، pay-as-you-go و spend cap پروژه را برای Gemini Enterprise، Antigravity و workloadهای agentic اضافه میکند.
-
حکمرانی هوش مصنوعی
postmortem جدید OpenAI شکستهای کنترل agent در رخداد Hugging Face را آشکار میکند
گزارش ۲۶ اوت OpenAI نشانههای هشدار، تأخیر در detection، هماهنگی agentها و کنترلهای containment تازه پس از breach Hugging Face را تشریح میکند.