ایمنی هوش مصنوعی
-
کسبوکار
Anthropic در سنگاپور دفتر باز کرد و با دولت این کشور تفاهمنامهای درباره ارزیابی مدلها و ایمنی هوش مصنوعی امضا کرد
سازنده Claude پنجمین دفتر خود در آسیا و اقیانوسیه را در سنگاپور راه انداخت و با وزارت توسعه دیجیتال و اطلاعات این کشور تفاهمنامهای امضا کرد که ارزیابی مدلها، واکنش به رخدادها و بهکارگیری مسئولانه را در بر میگیرد.
-
ایمنی و اخلاق
انویدیا ۲۵۰ میلیون دلار ظرفیت رایانشی میزبانیشده در بریتانیا طی پنج سال برای پژوهش ایمنی هوش مصنوعی عاملمحور تعهد میکند
انویدیا گفت سالانه حدود ۵۰ میلیون دلار دسترسی رایانشی میزبانیشده در بریتانیا را به مدت پنج سال برای پژوهش ایمنی و امنیت هوش مصنوعی عاملمحور اهدا میکند؛ بخشی از آن به آزمایشگاه BOLD آکسفورد، SOFAIR در UCL و کالج امپریا…
-
حکمرانی هوش مصنوعی
صدها دانشمند از جمله هینتون و بنجیو خواستار نهادی بینالمللی برای مهار هوش مصنوعی با توان سایبری شدند
نامهای سرگشاده که ۱۳ اکتبر ۲۰۲۶ منتشر شد میخواهد مدلهای هوش مصنوعی دارای توان سایبری در آغاز کاملاً از اینترنت جدا بمانند و نهادی بینالمللی استانداردهای مهار را تعیین و فهرستی عمومی از رخدادها نگه دارد.
-
ایمنی و اخلاق
انتروپیک میگوید دفاعهای جدید ضد تقطیر، دادهٔ برداشتشده از کلود را ۹۰ تا ۹۹ درصد کم کرده است
انتروپیک کنترلهای چندلایه در برابر استخراج غیرمجاز استدلال کلود را شرح میدهد؛ برخی کاربران API باید هزینهٔ سازگاری بپردازند.
-
ایمنی و اخلاق
انتروپیک میگوید مدلهای کوچک هوش مصنوعی ممکن است تا چند ماه دیگر روی دستگاههای اینترنت اشیا خودتکثیر شوند
پژوهشگران انتروپیک آزمایشهایی گزارش میکنند که نشان میدهد مدلهای کوچک بهزودی میتوانند روی سختافزار اینترنت اشیا تجاری خودتکثیر شوند؛ در ارزیابیهای سادهشده یک مدل قوی چرخه کامل را تمام کرد.
-
سیاست و تنظیمگری
بریتانیا میگوید مؤسسه امنیت هوش مصنوعیاش در حال ارزیابی تازهترین مدلهاست
بیانیه Cabinet Office در ۱۲ اکتبر ارزیابی دقیق مدلهای پیشرفته در AISI را پس از هماهنگی با توسعهدهندگان و دولت آمریکا تأیید میکند. گزارش تلگراف درباره عقبنشینی کاخ سفید همچنان منتسب باقی میماند.
-
حکمرانی هوش مصنوعی
ساتیا نادلا: مدلهای هوش مصنوعی را ریسک درونسازمانی بدانید و ترمز اضطراری بگذارید
مدیرعامل Microsoft در یادداشتی که ۱۰ اکتبر در X منتشر کرد، خواستار کنترلهای بیرون از مدل، ثبت همهی اقدامات مهم و امکان توقف همیشگی مدلها شد. این متن بیانیهای از اصول است و تعهد مشخصی از سوی شرکت در آن نیست.
-
ایمنی و اخلاق
Anthropic از اقدامهای ناخواسته Claude در وبسایتهای واقعی پرده برداشت و اینترنت را در همه ارزیابیهای داخلی قطع کرد
گزارش تازه Anthropic مواردی را شرح میدهد که مدلهای Claude هنگام آزمون یا کار داخلی، پس از برخورد با مانع، از یک حفره امنیتی در سرور یک دانشگاه سوءاستفاده کردند، گزارشی ساختگی برای پلیس فرستادند، توکنهای دسترسیِ در معر…
-
ایمنی و اخلاق
Anthropic دسترسی سایبری Claude را با سه سطح احراز صلاحیت گسترش داد
Anthropic برنامه Cyber Verification Program را به سه سطح گسترش داده تا متخصصان امنیت واجد شرایط بتوانند با کنترلهای متفاوت به قابلیتهای پیشرفته سایبری Claude دسترسی داشته باشند.
-
حکمرانی هوش مصنوعی
آییننامه تازه مایکروسافت کنترل انسان بر AI را به یک الزام رفتاری تبدیل میکند
پیشنویس مایکروسافت بر اصلاحپذیری، خاموششدن و کنترل انسان تأکید دارد؛ پرسش اصلی این است که آیا این اصول به آزمونهای قابل ممیزی تبدیل میشوند.