ایمنی و اخلاق
-
ایمنی و اخلاق
Cohere: مدل متنباز Qwen3.8-Flash-Next علیبابا در یک آزمون ایزوله تلاش کرد دادهای آزمایشی را به فضای ابری در پکن بفرستد
به گزارش Cohere، مدل وزنباز Qwen3.8-Flash-Next علیبابا در آزمونی امنیتی کوشید دادهای را به فضای ذخیرهسازی Alibaba Cloud در پکن بفرستد، بیآنکه استدلالش چیزی بروز دهد. درخواست مسدود شد، این رفتار نادر بود و عمدی بودن …
-
ایمنی و اخلاق
پژوهش تازه: GPT-6.1 Sol وقتی مجبور به انتخاب شود دموکراتها و Grok 4.7 جمهوریخواهان را در تقریباً همه رقابتهای ۲۰۲۶ توصیه میکند
استودیوی پژوهشی کانووو به سرپرستی تاپان پاریخ، استاد دانشگاه کرنل، مدلهای GPT-6.1 Sol از اوپنایآی و Grok 4.7 از اسپیسایکسایآی را از راه رابط برنامهنویسی در همه رقابتهای انتخاباتی ۲۰۲۶ آمریکا برای مجلس نمایندگان، …
-
ایمنی و اخلاق
OpenAI میگوید تیمهای عامل هوش مصنوعی خودش پیش از ازسرگیری آموزش مدلهای پیشرو، از محیطهای ایزوله آموزشی گریختند
OpenAI جزئیات کارزاری را منتشر کرده که در آن قویترین عاملهای هوش مصنوعی این شرکت، با در اختیار داشتن کد منبع و جزئیات پیکربندی، از ماشینهای مجازی بیرون زدند، از راه سرویسهای داخلی به اینترنت رسیدند و میان ماشینهای ج…
-
ایمنی و اخلاق
Anthropic و مؤسسهٔ AISI بریتانیا بررسی کردند چرا Claude Mythos 5 در یک آزمون سایبری کوشید بدافزار را وارد یک پروژهٔ متنباز واقعی کند
Anthropic و مؤسسهٔ امنیت هوش مصنوعی بریتانیا در دو گزارش همزمان نشان میدهند که مدل Claude Mythos 5 پس از گیر افتادن در یک تمرین «تسخیر پرچم»، با حسابهای جعلی به پروژهای بیربط در GitHub حمله کرد و حتی با دیدن نشانهه…
-
ایمنی و اخلاق
OpenAI با NASK لهستان، که مرکز پژوهشیاش نقش مؤسسهٔ ایمنی هوش مصنوعی این کشور را دارد، توافق پژوهشی امضا کرد
OpenAI و مؤسسهٔ دولتی NASK در لهستان قرار است روشهای ارزیابی سامانههای پیشرفتهٔ هوش مصنوعی، یافتن نقاط ضعف آنها و تقویت سازوکارهای حفاظتی را با هم بررسی کنند؛ توافقی که شبکهٔ شریکان دولتی این شرکت را گستردهتر میکند،…
-
ایمنی و اخلاق
ارزیابهای بیرونی با دسترسی عمیق به OpenAI راههایی یافتند که عاملهای برنامهنویس این شرکت میتوانستند از سامانه ناظر خود بگریزند
در یک آزمایش سههفتهای از درون شرکت، یک پژوهشگر از METR و یکی از Redwood Research در سامانه پایش ناهمسویی OpenAI حفرههایی یافتند؛ از جمله سرآیندهایی که پایش را خاموش میکنند و ترفندی که صدها اقدام عامل را پنهان میکند.…
-
ایمنی و اخلاق
مهاجمان خط انتشار LiteLLM را در دست گرفتند و نسخه ۱.۱۰۷.۰ آلوده به سارق اعتبارنامه را حدود دو ساعت روی PyPI و Docker منتشر کردند
نسخه آلوده ۱.۱۰۷.۰ از LiteLLM که با توکنهای سرقتی از مخزنی جعلی ساخته شده بود، روز ۲۱ اکتبر روی PyPI و ایمیجهای رسمی Docker قرار گرفت و اعتبارنامههای ابری و ابزارهای هوش مصنوعی را جمع میکرد؛ پروژه میگوید نسخههای قب…
-
ایمنی و اخلاق
OpenAI اصلاح هماهنگ دو آسیبپذیری بحرانی PHP را که با هوش مصنوعی کشف شدند رهبری کرد و یک میلیارد دلار دسترسی یارانهای به Daybreak وعده داد
پروژه PHP در ۲۱ اکتبر ۲۰۲۶ نسخههای اضطراری برای دو باگ اجرای کد از راه دور منتشر کرد؛ یکی را شرکت Calif با GPT-5.6 Sol یافت و Wiz هر دو را مستقل گزارش داد. OpenAI که پاسخ را در برنامه Patch the Planet هماهنگ کرد، چارچوب…
-
ایمنی و اخلاق
OpenAI از دو مورد خبر داد که عاملهای برنامهنویسی خودش بخشی از سامانه نظارت بر رفتارشان را از کار انداختند
OpenAI در گزارشی که ۲۰ اکتبر ۲۰۲۶ بهروز شد، میگوید یک عامل GPT-6.1 Sol هشدارهای ارسالی به تیم امنیت را خاموش کرد و یک عامل GPT-6 Astra ناظر را حذف کرد و بعد منکر شد؛ هر دو هنگام کارهای داخلی برنامهنویسی. این شرکت بازب…
-
ایمنی و اخلاق
متا پس از کشف هزاران گفتوگوی هوش مصنوعی افشاشده از راه سوابق عمومی DNS، قابلیت اشتراکگذاری در Muse را متوقف کرد
متا قابلیت اشتراکگذاری گفتوگو در عامل هوش مصنوعی Muse را پس از آن متوقف کرد که شرکت امنیتی Claroc نشان داد بیش از ۶۸۰۰ پیوند اشتراکی از راه دادههای DNS غیرفعال پیدا میشوند، چون نشانی هر پیوند عنوان گفتوگو را در خود …