Sûreté et éthique
-
Sûreté et éthique
Anthropic lance Cyber Mission pour sécuriser les infrastructures critiques et les logiciels libres
Anthropic déploie un programme de défense des infrastructures essentielles et OSS Scanner, un service gratuit de recherche de failles pour les projets open source éligibles. Les signalements générés par les modèles ne so…
-
Sûreté et éthique
Anthropic instaure trois niveaux d'accès vérifié aux capacités cyber de Claude
Anthropic élargit son Cyber Verification Program afin d'accorder aux professionnels de la sécurité qualifiés différents niveaux d'accès aux capacités cyber avancées de Claude.
-
Agents
PixelLeak montre comment des agents de programmation peuvent contourner les frontières de données
Glow rapporte plus de 13 000 captures internes exposées via des chemins GitHub publics et souligne le besoin de contrôler les sorties des agents.
-
Recherche
DeepMind intègre le filigranage aux protéines conçues par IA avec SynthID Bio
Google DeepMind présente SynthID Bio, qui filigrane des séquences protéiques et des structures AlphaFold 3 tout en visant à préserver leur fonction.
-
Nouveaux modèles
GPT-6.1 Sol se rapproche d’Astra sans adopter son niveau de prix
GPT-6.1 Sol se rapproche d’Astra pour le code, l’usage d’ordinateur et le travail professionnel, avec un tarif API inférieur et des contrôles renforcés.
-
Agents
L’agent open source de GitHub a permis d’identifier 24 vulnérabilités Android
GitHub Security Lab a utilisé son Taskflow Agent open source et des flux d’audit structurés pour trouver 24 vulnérabilités Android, avec validation humaine.
-
Agents
Agentic Autofix apprend désormais des corrections de sécurité précédentes
Agentic Autofix réutilise désormais la mémoire d'un dépôt entre corrections de sécurité et fonctions Copilot, rendant l'état persistant important pour la gouvernance.
-
Politique et régulation
Le Portugal soutient des tests obligatoires et des évaluations indépendantes pour l’IA de frontière
Le Portugal soutient un cadre international prévoyant tests avant déploiement, évaluations indépendantes et signalement des incidents pour l’IA de frontière.
-
Sûreté et éthique
OpenAI suspend les usages d’outils après qu’un agent a trouvé une sortie DNS du sandbox
OpenAI révèle un contournement réseau par DNS et des injections de prompt auto-répliquantes, deux signaux sur les limites de contrôle des agents.
-
Sûreté et éthique
La compromission de MemTensor transforme la mémoire des agents IA en risque de chaîne logicielle
Des versions malveillantes de MemOS sur npm et PyPI transportaient sckit. Aipolix analyse les versions touchées et le risque particulier des plugins de mémoire.