Gouvernance de l'IA
-
Agents
Catalyst 3.0 encadre l'accès des agents de code à l'infrastructure cloud
Zoho relie les agents de programmation à Catalyst via MCP et ajoute permissions dédiées, journaux d'outils et changements réversibles.
-
Nouveaux modèles
Astra adopte une technique qui pourrait compliquer la surveillance de son raisonnement
Astra utiliserait la profondeur récurrente tandis qu'OpenAI renforce la surveillance. Le modèle illustre les limites d'un contrôle fondé sur la seule chaîne de raisonnement.
-
Agents
GitHub donne à Copilot un rôle formel dans l’autorisation des fusions
GitHub peut désormais compter une approbation Copilot avant fusion, avec des contrôles par entreprise, dépôt et chemins de fichiers.
-
Agents
GitHub étend l’exclusion de contenu dans Copilot, mais le contrôle reste partiel
L’application Copilot et la CLI appliquent les exclusions, mais GitHub documente encore des limites dans les modes agents et certains systèmes de fichiers.
-
Agents
Cursor déplace l’exécution des agents chez le client, mais conserve l’inférence dans son cloud
Self-Hosted Machines déplace les outils des agents chez le client, tandis que l’inférence et la planification restent dans le cloud de Cursor.
-
Recherche
Des vérificateurs bon marché peuvent masquer les erreurs des cascades d’IA
Une étude montre pourquoi le routage et la mesure de qualité d’une cascade de modèles ne devraient pas dépendre du même vérificateur.
-
Agents
Falcon Guardian déplace la sécurité des agents IA vers l’exécution
Falcon Guardian relie prompts et appels d’outils aux actions sur les terminaux et ajoute des contrôles à l’exécution pour les agents IA.
-
Nouveaux modèles
Claude Fable 5.1 fait de l’enveloppe de politique une partie du modèle
Fable 5.1 et Mythos 5.1 partagent le même modèle mais diffèrent par leurs garde-fous, leur accès, la rétention et l’économie de service.
-
⚙️ La couche de règles exécutables : pourquoi la gouvernance de l’IA échoue avant l’exécution (4/10)
Comment des décisions prises à l’exécution, des points de contrôle, des règles tenant compte de l’état et des preuves transforment la gouvernance de l’IA en contrôle opérationnel.
-
🏗️ Pourquoi la plupart des équipes s’arrêtent aux contrôles d’action : les systèmes cachés d’une véritable gouvernance des agents (3/10)
Pourquoi l’identité et les approbations ne suffisent pas, et comment les systèmes de connaissance, d’exécution et d’évaluation rendent la gouvernance des agents opérationnelle.