ایمنی و اخلاق
-
ایمنی و اخلاق
METR میگوید شتاب تحقیق و توسعه AI در Anthropic حدود ۲ برابر شده و بیشتر از خود AI میآید
METR در ۵ نوامبر ۲۰۲۶ پس از ۱۱ هفته دسترسی بالا، ارزیابی مستقلی از شتاب R&D هوش مصنوعی در Anthropic منتشر کرد. رشد AECI از اکتبر ۲۰۲۵ حدود ۱٫۹ برابر سریعتر برآورد شده و بیشتر به استفاده از AI نسبت داده میشود؛ Anthropic…
-
ایمنی و اخلاق
اوپنایآی میگوید سامانه عاملمحورش در یک اجرا ۹۴۸ اکسپلویت کارای ارتقای دسترسی در هسته لینوکس همراه با وصله ساخته است
به گفته اوپنایآی، یک زنجیره از عاملهای هوش مصنوعی که بر یک مدل امنیت سایبری منتشرنشده تکیه دارد، در یک اجرا در ماه اکتبر ۹۴۸ نقص متمایز ارتقای دسترسی در هسته لینوکس را یافت، تأیید کرد و به اکسپلویت رساند. هزینه این کا…
-
ایمنی و اخلاق
Apple اپهای دوستیابی و همدمهای عاشقانه هوش مصنوعی را در App Store مخصوص بالای ۱۸ سال میکند
از ۱۶ نوامبر ۲۰۲۶، App Store Connect از توسعهدهندگان میپرسد آیا اپ آنها قابلیت دوستیابی یا رابطه، از جمله همدم مجازی با محتوای جنسی یا عاشقانه، دارد یا نه؛ هر اپی که پاسخ مثبت بدهد دستکم رده سنی 18+ میگیرد و همه اپ…
-
ایمنی و اخلاق
OpenAI پاداش برنامه شکار باگ امنیتی را افزایش داد: تا ۳۰ هزار دلار برای آسیبپذیریهای بحرانی ChatGPT، Codex و API و حدود ۱۷۲ هزار دلار برای یافتههای برتر با پاداشهای تکمیلی
OpenAI میگوید نقطه میانی بازه پاداش آسیبپذیریهای متوسط، شدید و بحرانی را بهطور میانگین بیش از چهار برابر میکند و ضریبهایی برای کیفیت گزارش، وفاداری پژوهشگران و کارزارهای اولویتدار میافزاید. این شرکت همچنین دور تا…
-
ایمنی و اخلاق
آنتروپیک در امیدنامه اصلاحشدهاش هشدار داد ممکن است بهزودی به آستانه خودش برای پژوهش شتابگرفته با هوش مصنوعی برسد؛ درآمد فصل سوم ۱۷ میلیارد دلار
آنتروپیک در اصلاحیه فرم S-1 که ۲ نوامبر ثبت شد، میگوید مدلهای آیندهاش ممکن است بهزودی به آستانه «پیشرفت بهشدت شتابگرفته ناشی از هوش مصنوعی» در Responsible Scaling Policy برسند، هرچند هیچ مدل فعلی از آن عبور نکرده ا…
-
ایمنی و اخلاق
OpenAI محافظهای ChatGPT در برابر خشونت را سختتر میکند، اطلاعات مربوط به سلاح را برای نوجوانان محدود میکند و وعدهٔ گزارش ششماهه میدهد
OpenAI روز ۳۰ اکتبر اعلام کرد که ChatGPT دربارهٔ حملههای جمعی گذشته جزئیات کمتری میدهد، میتواند گفتوگوهایی را که بر آسیب زدن به دیگران متمرکزند قطع کند و پاسخهای مربوط به سلاح را برای کاربرانی که زیر ۱۸ سال تشخیص دا…
-
ایمنی و اخلاق
پژوهش Epoch AI نشان میدهد مدل باز GLM 5.3 میتواند وصلههای امنیتی منتشرنشده مرورگر فایرفاکس را به حملهای واقعی بدل کند
به گزارش Epoch AI که ۲۹ اکتبر منتشر شد، مدل وزنباز GLM 5.3 بدون دخالت انسان علیه شش نسخه Firefox حملههایی ساخت که فایلهای کاربر را میخواندند؛ آن هم با بررسی وصلههای امنیتی که در کد عمومی دیده میشدند اما هنوز به دست…
-
ایمنی و اخلاق
افزونهٔ دستکاریشدهٔ Claude Code در مارکتپلیس Cursor کوشید روی دستگاه حداکثر ۵۰۰۰ برنامهنویس درِ پشتی SSH کار بگذارد
شرکت Cursor اعلام کرد نسخهٔ مخربی از افزونهٔ Claude Code با شمارهٔ 2.1.313 روز ۲۹ اکتبر حدود یازده ساعت در فروشگاه افزونههای VS Code این شرکت در دسترس بوده است. این بسته اطلاعات دستگاه را جمع میکرد، کلید SSH مهاجم را ا…
-
ایمنی و اخلاق
OpenAI پایش ناهمراستایی را به آموزش، ارزیابی و بخشی از استفاده مشتریان از مدلهای مرزیاش گسترش داد
OpenAI روز ۲۹ اکتبر اعلام کرد سامانهای را که برای شکار رفتارهای ناخواسته قویترین مدلهایش به کار میبرد بهطور چشمگیری گستردهتر کرده است؛ آن هم پس از آنکه نفوذ به Hugging Face از ارزیابیهایی آغاز شد که هیچ پایشی نداش…
-
ایمنی و اخلاق
Anthropic میگوید یک مدل منتشرنشده Claude زنجیرههای نفوذ کارآمدی علیه کروم، سافاری، اندروید، ویندوز و لینوکس ساخته است
تیم Frontier Red Team شرکت Anthropic پنج زنجیره حمله را منتشر کرده که به گفته این شرکت یک مدل پژوهشی داخلی و منتشرنشده آنها را کشف کرده و به اکسپلویتهای کارا تبدیل کرده است؛ از جمله فرار از سندباکس کروم با یک کلیک و دس…