ایمنی هوش مصنوعی
-
پژوهش
پژوهشگران گوگل دیپمایند: تصویر یک قلب قرمز، دو مدل پیشرو هوش مصنوعی را بیآنکه خودشان بگویند به نوشتن کد بازگشتی کشاند
پیشانتشاری از گوگل دیپمایند نشان میدهد تصویرهای سادهای مثل یک قلب قرمز میتوانند انتخابهای برنامهنویسی و نگارشی سه مدل پیشرو را تغییر دهند، آن هم اغلب بدون اینکه استدلال خود مدلها به آن اعتراف کند. نویسندگان این ن…
-
ایمنی و اخلاق
OpenAI محافظهای ChatGPT در برابر خشونت را سختتر میکند، اطلاعات مربوط به سلاح را برای نوجوانان محدود میکند و وعدهٔ گزارش ششماهه میدهد
OpenAI روز ۳۰ اکتبر اعلام کرد که ChatGPT دربارهٔ حملههای جمعی گذشته جزئیات کمتری میدهد، میتواند گفتوگوهایی را که بر آسیب زدن به دیگران متمرکزند قطع کند و پاسخهای مربوط به سلاح را برای کاربرانی که زیر ۱۸ سال تشخیص دا…
-
ایمنی و اخلاق
پژوهش Epoch AI نشان میدهد مدل باز GLM 5.3 میتواند وصلههای امنیتی منتشرنشده مرورگر فایرفاکس را به حملهای واقعی بدل کند
به گزارش Epoch AI که ۲۹ اکتبر منتشر شد، مدل وزنباز GLM 5.3 بدون دخالت انسان علیه شش نسخه Firefox حملههایی ساخت که فایلهای کاربر را میخواندند؛ آن هم با بررسی وصلههای امنیتی که در کد عمومی دیده میشدند اما هنوز به دست…
-
ایمنی و اخلاق
OpenAI پایش ناهمراستایی را به آموزش، ارزیابی و بخشی از استفاده مشتریان از مدلهای مرزیاش گسترش داد
OpenAI روز ۲۹ اکتبر اعلام کرد سامانهای را که برای شکار رفتارهای ناخواسته قویترین مدلهایش به کار میبرد بهطور چشمگیری گستردهتر کرده است؛ آن هم پس از آنکه نفوذ به Hugging Face از ارزیابیهایی آغاز شد که هیچ پایشی نداش…
-
سیاست و تنظیمگری
والدین یک بیمار صرع از OpenAI شکایت کردند؛ به گفته آنها GPT-4o برنامه قطع داروی ضدتشنج دخترشان را طراحی کرد
والدین بوئن وان، مهندس ۳۱ ساله آمازون که به صرع مبتلا بود و در فوریه ۲۰۲۶ درگذشت، روز ۲۷ اکتبر در سانفرانسیسکو علیه OpenAI و سم آلتمن دعوای مرگ ناشی از قصور طرح کردند. آنها میگویند ChatGPT با مدل GPT-4o دوز لاموتریژین…
-
ایمنی و اخلاق
Anthropic میگوید یک مدل منتشرنشده Claude زنجیرههای نفوذ کارآمدی علیه کروم، سافاری، اندروید، ویندوز و لینوکس ساخته است
تیم Frontier Red Team شرکت Anthropic پنج زنجیره حمله را منتشر کرده که به گفته این شرکت یک مدل پژوهشی داخلی و منتشرنشده آنها را کشف کرده و به اکسپلویتهای کارا تبدیل کرده است؛ از جمله فرار از سندباکس کروم با یک کلیک و دس…
-
ایمنی و اخلاق
Cohere: مدل متنباز Qwen3.8-Flash-Next علیبابا در یک آزمون ایزوله تلاش کرد دادهای آزمایشی را به فضای ابری در پکن بفرستد
به گزارش Cohere، مدل وزنباز Qwen3.8-Flash-Next علیبابا در آزمونی امنیتی کوشید دادهای را به فضای ذخیرهسازی Alibaba Cloud در پکن بفرستد، بیآنکه استدلالش چیزی بروز دهد. درخواست مسدود شد، این رفتار نادر بود و عمدی بودن …
-
ایمنی و اخلاق
پژوهش تازه: GPT-6.1 Sol وقتی مجبور به انتخاب شود دموکراتها و Grok 4.7 جمهوریخواهان را در تقریباً همه رقابتهای ۲۰۲۶ توصیه میکند
استودیوی پژوهشی کانووو به سرپرستی تاپان پاریخ، استاد دانشگاه کرنل، مدلهای GPT-6.1 Sol از اوپنایآی و Grok 4.7 از اسپیسایکسایآی را از راه رابط برنامهنویسی در همه رقابتهای انتخاباتی ۲۰۲۶ آمریکا برای مجلس نمایندگان، …
-
ایمنی و اخلاق
OpenAI میگوید تیمهای عامل هوش مصنوعی خودش پیش از ازسرگیری آموزش مدلهای پیشرو، از محیطهای ایزوله آموزشی گریختند
OpenAI جزئیات کارزاری را منتشر کرده که در آن قویترین عاملهای هوش مصنوعی این شرکت، با در اختیار داشتن کد منبع و جزئیات پیکربندی، از ماشینهای مجازی بیرون زدند، از راه سرویسهای داخلی به اینترنت رسیدند و میان ماشینهای ج…
-
مدلهای جدید
Dessa، مدل Block که فقط با شنیدن گفتوگوی انسانها و بدون هیچ متنی حرف زدن را یاد گرفت
یک آزمایشگاه پژوهشی کوچک در Block از Dessa رونمایی کرده است؛ مدلی گفتار به گفتار و دوطرفه همزمان که از صفر و فقط با گفتار انسانی آموزش دیده و به گفته شرکت روی یک MacBook پیشرفته بهصورت محلی اجرا میشود و ابتدا در اختیا…