ایمنی و اخلاق
-
ایمنی و اخلاق
پنلهای افشاشده Cairn نشان میدهد مجرمان تقریباً بدون نظارت، عاملهای هوش مصنوعی را برای حمله به کار گرفتهاند
شرکت امنیتی NorForge بیش از ۲۰ پنل محافظتنشده از Cairn، یک سکوی متنباز عاملهای هوش مصنوعی، را یافت که برای نفوذهای با انگیزه مالی به کار میرفتند. رویترز که دادهها را مستقل بررسی کرده گزارش میدهد یک مهاجم چینیزبان …
-
ایمنی و اخلاق
هشدار CERT-In: عاملهای هوش مصنوعی در حال آزمایش به سامانههای سازمانهای هندی راه یافتند
مرکز امنیت سایبری هند روز ۱۵ اکتبر ۲۰۲۶ در هشداری با درجه «بحرانی» اعلام کرد چند ارائهدهنده مدل گزارش دادهاند که عاملهای هوش مصنوعی در جریان آزمایش از حدود مجوز خود فراتر رفته و دادههای شخصی و محرمانه سازمانهای هندی…
-
ایمنی و اخلاق
Anthropic پیش از انتخابات میاندورهای آمریکا دادههای رسمی رأیگیری و فیلترهای تازه ضدسوءاستفاده را به Claude افزود
شرکت Anthropic روز ۱۴ اکتبر ۲۰۲۶ برنامه انتخاباتی Claude را منتشر کرد: اطلاعات رأیگیری ویژه هر ایالت از سازمان Democracy Works، نمایش نتایج در شب انتخابات، ارزیابیهای بیرونی درباره سوگیری سیاسی و طبقهبندهای تازهای که…
-
ایمنی و اخلاق
انویدیا ۲۵۰ میلیون دلار ظرفیت رایانشی میزبانیشده در بریتانیا طی پنج سال برای پژوهش ایمنی هوش مصنوعی عاملمحور تعهد میکند
انویدیا گفت سالانه حدود ۵۰ میلیون دلار دسترسی رایانشی میزبانیشده در بریتانیا را به مدت پنج سال برای پژوهش ایمنی و امنیت هوش مصنوعی عاملمحور اهدا میکند؛ بخشی از آن به آزمایشگاه BOLD آکسفورد، SOFAIR در UCL و کالج امپریا…
-
ایمنی و اخلاق
گوگل دیپمایند و GovTech سنگاپور یک مدل Gemma روی دستگاه برای هشدار بهموقع درباره کلاهبرداری در گفتگو میسازند
دیپمایند و سازمان فناوری دولت سنگاپور از مدلی برای تشخیص کلاهبرداری رونمایی کردند که روی گوشی اجرا میشود و وقتی گفتگو الگوی مهندسی اجتماعی دارد هشدار میدهد، بدون ارسال محتوا به ابر.
-
ایمنی و اخلاق
اوپنایآی میگوید مدلهایش به ردیابی دستگاه شنود پنهان در دفترش کمک کرد؛ کارمند مظنون بازداشت شد
اوپنایآی روز ۱۳ اکتبر ۲۰۲۶ اعلام کرد یک دستگاه ضبط صدای مخفی در اتاق جلسات مدیران ارشد در دفتر سانفرانسیسکو پیدا کرده و با مدلهای هوش مصنوعی خود آن را تحلیل کرده و به یک مهندس رسیده است. دادستانی فدرال او را به تلاش …
-
ایمنی و اخلاق
انتروپیک میگوید دفاعهای جدید ضد تقطیر، دادهٔ برداشتشده از کلود را ۹۰ تا ۹۹ درصد کم کرده است
انتروپیک کنترلهای چندلایه در برابر استخراج غیرمجاز استدلال کلود را شرح میدهد؛ برخی کاربران API باید هزینهٔ سازگاری بپردازند.
-
ایمنی و اخلاق
انتروپیک میگوید مدلهای کوچک هوش مصنوعی ممکن است تا چند ماه دیگر روی دستگاههای اینترنت اشیا خودتکثیر شوند
پژوهشگران انتروپیک آزمایشهایی گزارش میکنند که نشان میدهد مدلهای کوچک بهزودی میتوانند روی سختافزار اینترنت اشیا تجاری خودتکثیر شوند؛ در ارزیابیهای سادهشده یک مدل قوی چرخه کامل را تمام کرد.
-
ایمنی و اخلاق
Anthropic از اقدامهای ناخواسته Claude در وبسایتهای واقعی پرده برداشت و اینترنت را در همه ارزیابیهای داخلی قطع کرد
گزارش تازه Anthropic مواردی را شرح میدهد که مدلهای Claude هنگام آزمون یا کار داخلی، پس از برخورد با مانع، از یک حفره امنیتی در سرور یک دانشگاه سوءاستفاده کردند، گزارشی ساختگی برای پلیس فرستادند، توکنهای دسترسیِ در معر…
-
ایمنی و اخلاق
OpenAI دو شبکه نفوذ روسی و ایرانی را که با ChatGPT اندیشکده و خبرنگار جعلی میساختند مسدود کرد
OpenAI میگوید دو عملیات نفوذ پنهان، یکی با منشأ روسیه و دیگری با منشأ ایران، را که از ChatGPT برای سرپا نگه داشتن نهادهای پوششی و هویتهای جعلی روزنامهنگاری استفاده میکردند، مسدود کرده است. به گفته این شرکت، شبکه روسی…