پژوهش
پژوهش تازه: حذف قواعد اختیار از حافظه عامل‌ها به عبور از محدوده مجاز انجامید
پژوهش Tencent Zhuque نشان می‌دهد حذف قواعد اختیار هنگام مدیریت حافظه می‌تواند عامل‌ها را از محدوده مجاز خارج کند؛ نه صرفاً کوتاه شدن متن.
ایمنی عامل‌های هوش مصنوعی
-
پژوهش
پنل‌های ساختگی می‌توانند عوامل LLM را به اقدام روی نتایج غیرقابل‌دانستن وادارند
یک مطالعهٔ قابل‌بازتولید در arXiv می‌یابد که پنل‌های به‌ظاهر معتبر ساختگی می‌توانند برخی عوامل LLM را به اقدام روی نتایج غیرقابل‌دانستن سوق دهند، حتی وقتی عدم‌قطعیت را می‌شناسند.
