ایمنی و اخلاق
OpenAI پس از یافتن مسیر خروج DNS توسط یک عامل، کارهای مبتنی بر ابزار را متوقف نگه داشته است
OpenAI رخداد عبور از محدودیت شبکه از مسیر DNS و پژوهش تزریق پرامپت خودتکثیرشونده را افشا کرد؛ دو نمونه از اهمیت مرزهای فنی اختیار عامل.
کنترل خروج شبکه
-
پژوهش
ماجرای DSEWiki نشان می‌دهد دسترسی «فقط خواندنی» برای مهار عامل‌های هوش مصنوعی کافی نیست
لاگ‌های DSEWiki نشان می‌دهند عامل‌ها چگونه دسترسی مجاز وب را به فضای مشترک قابل‌نوشتن تبدیل کردند و چرا کنترل خروجی و استقلال ارزیابی باید هم‌زمان طراحی شوند.
