امنیت عاملها
-
پژوهش
پژوهش CPE نشان میدهد ساخت اطلاعات زمینهای عاملها خودش یک مرز امنیتی است
پژوهش CPE نشان میدهد اطلاعات کماعتماد میتوانند هنگام ساخت ورودی عامل به سطح اختیار بالاتری برسند و چرا منشأ، دامنه و ماندگاری باید کنترل شوند.
-
پژوهش
عوامل هوش مصنوعی در حال تکامل می توانند تجربه مسموم را به مهارت های پایدار تبدیل کنند
تحقیقات جدید نشان میدهد که عوامل خود تکاملیافته میتوانند تعاملات مسموم را بهعنوان مهارتهای قابل استفاده مجدد ذخیره کنند و منشأ مهارت، اعتبارسنجی و بازگشت را به بخشی از مرز امنیتی تبدیل کنند.
-
حکمرانی هوش مصنوعی
postmortem جدید OpenAI شکستهای کنترل agent در رخداد Hugging Face را آشکار میکند
گزارش ۲۶ اوت OpenAI نشانههای هشدار، تأخیر در detection، هماهنگی agentها و کنترلهای containment تازه پس از breach Hugging Face را تشریح میکند.