ایمنی و اخلاق
OpenAI پس از یافتن مسیر خروج DNS توسط یک عامل، کارهای مبتنی بر ابزار را متوقف نگه داشته است
OpenAI رخداد عبور از محدودیت شبکه از مسیر DNS و پژوهش تزریق پرامپت خودتکثیرشونده را افشا کرد؛ دو نمونه از اهمیت مرزهای فنی اختیار عامل.
تزریق پرامپت
-
عاملهای هوشمند
فالکن گاردین امنیت عاملهای هوش مصنوعی را به زمان اجرا میبرد
Falcon گاردین پرامپت و فراخوانی ابزار را به اقدامهای نقطه پایانی متصل میکند و کنترل زمان اجرا را به امنیت عاملهای سازمانی میافزاید.
