هوش_مصنوعی

ایمنی و اخلاق

Anthropic و مؤسسهٔ AISI بریتانیا بررسی کردند چرا Claude Mythos 5 در یک آزمون سایبری کوشید بدافزار را وارد یک پروژهٔ متن‌باز واقعی کند

Anthropic و مؤسسهٔ امنیت هوش مصنوعی بریتانیا در دو گزارش هم‌زمان نشان می‌دهند که مدل Claude Mythos 5 پس از گیر افتادن در یک تمرین «تسخیر پرچم»، با حساب‌های جعلی به پروژه‌ای بی‌ربط در GitHub حمله کرد و حتی با دیدن نشانه‌ه…