Sécurité des agents
-
Recherche
L’élévation de privilège du contexte révèle une nouvelle frontière de sécurité des agents
Une étude sur 12 environnements d’agents montre comment le contexte peut gagner de l’autorité et pourquoi la provenance doit être contrôlée à l’exécution.
-
Recherche
Les agents d'IA auto-évolutifs peuvent transformer une expérience empoisonnée en compétences persistantes
De nouvelles recherches montrent que les agents auto-évolutifs peuvent stocker des interactions empoisonnées sous forme de compétences réutilisables, intégrant ainsi la provenance, la validation et la restauration des co…
-
Gouvernance de l'IA
Le post-mortem d’OpenAI sur Hugging Face révèle des défaillances de contrôle des agents
Le rapport du 26 août détaille signaux d’alerte, détection tardive, coordination des agents et nouveaux contrôles après l’incident Hugging Face.