Gouvernance de l'IA
-
Agents
Copado encadre le déploiement des agents avec MCP et des validations explicites
Agentia Headless donne aux agents un accĂšs MCP et CLI au delivery, tout en conservant validations, contrĂŽles et Ă©tat de livraison hors du modĂšle.
-
Gouvernance de l'IA
Le nouveau code IA de Microsoft fait du contrĂŽle humain une exigence de comportement
Le projet Humanist AI de Microsoft insiste sur la corrigibilitĂ©, lâarrĂȘt et le contrĂŽle humain. Reste Ă voir si ces principes deviendront des tests auditables.
-
Recherche
K-Bench montre que le dĂ©sapprentissage dâun agent peut masquer des fuites hors de la rĂ©ponse finale
K-Bench montre quâun test limitĂ© Ă la rĂ©ponse peut manquer des secrets encore prĂ©sents dans la rĂ©cupĂ©ration, les outils et lâexĂ©cution.
-
Gouvernance de l'IA
Anthropic veut installer des Ă©valuateurs externes au cĆur de ses contrĂŽles de sĂ©curitĂ©
Anthropic prĂ©voit un accĂšs continu de tiers aux processus de sĂ©curitĂ© de ses modĂšles. Une avancĂ©e vers une vĂ©rification permanente, sans norme commune pour lâinstant.
-
Entreprises
OpenAI Ă©carte une introduction en Bourse en 2026 et replace la sĂ©curitĂ© au cĆur de sa gouvernance
Sam Altman exclut une cotation dâOpenAI en 2026. Aipolix analyse les consĂ©quences pour la gouvernance, la sĂ©curitĂ© et la transparence.
-
Agents
Lâincident RubyGems montre comment la publication de paquets peut devenir une voie dâexĂ©cution pour un agent
Lâincident RubyGems montre pourquoi la sĂ©curitĂ© des agents doit intĂ©grer la publication de paquets et lâautomatisation des builds dans la surface dâexĂ©cution.
-
Recherche
GuardedAct sĂ©pare la proposition de lâIA du droit dâagir en production
GuardedAct Ă©value une architecture oĂč les corrections gĂ©nĂ©rĂ©es par un LLM passent par simulation et contrĂŽle de risque avant toute exĂ©cution.
-
Recherche
RAG-Safety-Bench montre que la sĂ©curitĂ© dâun modĂšle ne se transfĂšre pas automatiquement au RAG
RAG-Safety-Bench montre que la sécurité du modÚle de base ne suffit pas pour valider un systÚme RAG et propose quatre conditions de test contrÎlées.
-
Recherche
EBL-Core distingue lâapprobation dâun agent de son droit effectif dâexĂ©cuter
EBL-Core propose de revĂ©rifier action, politiques, preuves et contexte quand un agent IA exerce une autoritĂ© Ă haut risque, et pas seulement lors de lâapprobation.
-
đ Sans confinement, la gouvernance de lâIA cĂšde au moment critique (6/10)
ArrĂȘt indĂ©pendant, rayon dâimpact, rollback, canaris comportementaux et rĂ©cupĂ©ration : les capacitĂ©s nĂ©cessaires pour contenir les agents IA.