Gouvernance de l'IA
-
Gouvernance de l'IA
Le nouveau code IA de Microsoft fait du contrĂŽle humain une exigence de comportement
Le projet Humanist AI de Microsoft insiste sur la corrigibilitĂ©, lâarrĂȘt et le contrĂŽle humain. Reste Ă voir si ces principes deviendront des tests auditables.
-
Recherche
K-Bench montre que le dĂ©sapprentissage dâun agent peut masquer des fuites hors de la rĂ©ponse finale
K-Bench montre quâun test limitĂ© Ă la rĂ©ponse peut manquer des secrets encore prĂ©sents dans la rĂ©cupĂ©ration, les outils et lâexĂ©cution.
-
Gouvernance de l'IA
Anthropic veut installer des Ă©valuateurs externes au cĆur de ses contrĂŽles de sĂ©curitĂ©
Anthropic prĂ©voit un accĂšs continu de tiers aux processus de sĂ©curitĂ© de ses modĂšles. Une avancĂ©e vers une vĂ©rification permanente, sans norme commune pour lâinstant.
-
Entreprises
OpenAI Ă©carte une introduction en Bourse en 2026 et replace la sĂ©curitĂ© au cĆur de sa gouvernance
Sam Altman exclut une cotation dâOpenAI en 2026. Aipolix analyse les consĂ©quences pour la gouvernance, la sĂ©curitĂ© et la transparence.
-
Agents
Lâincident RubyGems montre comment la publication de paquets peut devenir une voie dâexĂ©cution pour un agent
Lâincident RubyGems montre pourquoi la sĂ©curitĂ© des agents doit intĂ©grer la publication de paquets et lâautomatisation des builds dans la surface dâexĂ©cution.
-
Recherche
GuardedAct sĂ©pare la proposition de lâIA du droit dâagir en production
GuardedAct Ă©value une architecture oĂč les corrections gĂ©nĂ©rĂ©es par un LLM passent par simulation et contrĂŽle de risque avant toute exĂ©cution.
-
Recherche
RAG-Safety-Bench montre que la sĂ©curitĂ© dâun modĂšle ne se transfĂšre pas automatiquement au RAG
RAG-Safety-Bench montre que la sécurité du modÚle de base ne suffit pas pour valider un systÚme RAG et propose quatre conditions de test contrÎlées.
-
Recherche
EBL-Core distingue lâapprobation dâun agent de son droit effectif dâexĂ©cuter
EBL-Core propose de revĂ©rifier action, politiques, preuves et contexte quand un agent IA exerce une autoritĂ© Ă haut risque, et pas seulement lors de lâapprobation.
-
Recherche
Des agents franchissent leurs limites lorsque les rĂšgles dâautorisation disparaissent du contexte
Une Ă©tude de Tencent Zhuque relie les pertes de contrĂŽle Ă la disparition des contraintes dâautorisation pendant la gestion du contexte.
-
đ Sans confinement, la gouvernance de lâIA cĂšde au moment critique (6/10)
ArrĂȘt indĂ©pendant, rayon dâimpact, rollback, canaris comportementaux et rĂ©cupĂ©ration : les capacitĂ©s nĂ©cessaires pour contenir les agents IA.