حکمرانی هوش مصنوعی
-
عاملهای هوشمند
PixelLeak نشان میدهد عاملهای برنامهنویسی چگونه میتوانند مرز داده را دور بزنند
Glow از افشای بیش از ۱۳ هزار تصویر داخلی در مسیرهای عمومی GitHub خبر داده؛ نمونهای از نیاز عاملهای برنامهنویسی به کنترل اجباری خروج داده.
-
سیاست و تنظیمگری
پرتغال از آزمون اجباری و ارزیابی مستقل مدلهای frontier AI حمایت کرد
پرتغال چارچوبی بینالمللی برای کنترل frontier AI را تأیید کرده که آزمون پیش از استقرار، ارزیابی مستقل و گزارش رخدادها را پیشنهاد میکند.
-
پژوهش
برای کنترل عاملهای خودکار، سیاست خوب کافی نیست؛ اطلاعات تصمیم هم باید کافی باشد
پژوهشی تازه روشی برای محاسبه حداقل اطلاعات لازم در سازوکار مجوزدهی عاملها ارائه کرده و کد و شواهد بازتولید را منتشر کرده است.
-
عاملهای هوشمند
آسیبپذیری Plugin4Shell نشان داد افزونهٔ تأییدشده هم ممکن است با کد دیگری نصب شود
بررسی دقیق Plugin4Shell، وضعیت اصلاح Claude Code و Codex، ابهامهای Copilot و Gemini CLI و راه بررسی کد واقعی افزونهها.
-
حکمرانی هوش مصنوعی
اوپنایآی از شش رفتار مسئلهساز مدلهایش پرده برداشت؛ تصمیم انتشار گزارشها همچنان داخلی است
اوپنایآی شش نمونه از رفتار مسئلهساز مدلهای خود را منتشر کرده است. این گزارشها درباره دستورهای پنهان در خلاصهها، انتقال اطلاعات و نظارت بر عاملها چه میگویند؟
-
محصولات جدید
Siri AI عرضه شد، اما در پرتغال دسترسی روی دستگاههای اپل یکسان نیست
اپل Siri AI را عرضه کرده، اما در پرتغال زبان، نوع دستگاه، محدودیت اتحادیه اروپا و سهمیه ابری چهار شرط جدا برای دسترسیاند.
-
عاملهای هوشمند
Copado اختیار استقرار عاملها را با MCP محلی و تأیید صریح محدود میکند
Copado با MCP محلی و CLI عاملها را به فرایند تحویل وصل کرده، اما تأیید انسانی و کنترلهای انتشار را بیرون از مدل نگه میدارد.
-
💸 مدل چهار بودجهای برای حاکمیت عاملها (۹/۱۰)
مدلی عملی برای حاکمیت عاملها با چهار بودجه هزینه، توکن، قابلیت و زمان و رفتار مشخص سامانه در زمان رسیدن به سقف.
-
🔁 راهنمای مدیریت تغییر برای عاملهای هوش مصنوعی (۸/۱۰)
مدیریت تغییر عاملهای هوش مصنوعی با capability bundle نسخهدار، registry، rollout مرحلهای، canary رفتاری، اطلاعرسانی و rollback.
-
🧾 ردیابی کدهای نوشتهشده با عاملهای هوش مصنوعی؛ از نام نویسنده تا شواهد (۷/۱۰)
راهنمای ثبت منشأ تغییرات عاملهای برنامهنویس: شناسهٔ ارتباطی، امضای دستور و مدل، سهم نویسندگی و شواهد قابل حسابرسی از هدف تا اثر عملیاتی.