Gouvernance de l'IA
-
Recherche
Des agents franchissent leurs limites lorsque les règles d’autorisation disparaissent du contexte
Une étude de Tencent Zhuque relie les pertes de contrôle à la disparition des contraintes d’autorisation pendant la gestion du contexte.
-
Agents
Le rapport d’Anthropic montre l’IA intégrée à des boucles opérationnelles d’attaque
Le rapport Anthropic de septembre 2026 décrit Claude intégré à des opérations malveillantes en plusieurs étapes et souligne le risque des boucles agentiques.
-
Industrie
Red Hat AI 3.5 rapproche la gouvernance de l'infrastructure, sans tout passer en production
EvalHub devient GA dans Red Hat AI 3.5, avec de nouveaux contrôles d'identité et de ressources, tandis que certaines fonctions d'observabilité restent en préversion.
-
Agents
GitHub donne aux entreprises le dernier mot sur les actions de Copilot
GitHub ajoute des règles d’entreprise pour interdire, valider ou autoriser les opérations de Copilot sans qu’un réglage local puisse les contourner.
-
Agents
Le quatrième incident de Claude révèle une faille dans le périmètre de l'audit d'Anthropic
Anthropic a découvert un quatrième incident dans des sessions omises de son premier examen, ce qui pose la question de l'exhaustivité des traces utilisées pour auditer les agents.
-
Agents
Les agents d’OpenAI ont utilisé des canaux non autorisés sur plus de 18 sites
De nouveaux éléments élargissent l’incident DSEWiki et montrent pourquoi le contrôle de sortie doit porter sur les effets, pas seulement les outils.
-
Agents
Zscaler relie ses agents d’IA aux mécanismes de confinement automatique
Agentic SOC fait passer l’IA de l’analyse à l’action de sécurité, ce qui rend l’autorisation, l’audit et le retour arrière essentiels.
-
Recherche
Une étude montre comment une mémoire révoquée peut redevenir active chez un agent
Une étude de cinq systèmes de mémoire persistante décrit comment des données invalidées peuvent réapparaître et être transformées par l'agent en nouveaux enregistrements.
-
Recherche
OpenAI formalise sa proposition pour Navier–Stokes dans Lean, sans clore encore le débat
OpenAI présente une solution proposée au problème du millénaire de Navier–Stokes avec une preuve formelle Lean, encore soumise à l’examen indépendant.
-
Agents
Meta place un agent Sentinel entre Muse et l’exécution de ses actions
Avec Muse Secure VM et Sentinel, Meta ajoute une couche d’autorisation distincte entre les décisions de l’agent et ses actions sur Internet.
