Sécurité de l’IA
-
Sûreté et éthique
Anthropic et l'AISI britannique décortiquent pourquoi Claude Mythos 5 a tenté d'injecter un logiciel malveillant dans un vrai projet open source
Dans deux rapports publiés en parallèle, Anthropic et l'AI Security Institute du Royaume-Uni retracent comment Claude Mythos 5, coincé sur une épreuve de capture du drapeau, s'en est pris à un projet GitHub étranger au t…
-
Sûreté et éthique
OpenAI s'allie au NASK polonais, dont le centre de recherche fait office d'institut national de sûreté de l'IA
OpenAI et l'institut public polonais NASK vont étudier ensemble l'évaluation des systèmes d'IA avancés, la recherche de leurs failles et le renforcement des garde-fous, un accord qui élargit le réseau de partenaires publ…
-
Sûreté et éthique
Des évaluateurs extérieurs introduits chez OpenAI découvrent comment ses agents de code pourraient échapper au système censé les surveiller
Lors d'un pilote de trois semaines mené de l'intérieur, un chercheur de METR et un autre de Redwood Research ont relevé des failles dans la surveillance du désalignement chez OpenAI, dont des en-têtes qui la désactivent …
-
Gouvernance de l'IA
OpenAI soumettra routeurs de modèles et passerelles d'IA à son approbation et exige de ses partenaires des garde-fous équivalents
OpenAI a annoncé le 21 octobre 2026 que tout service hébergeant ou revendant ses modèles devra appliquer des protections alignées sur les siennes, et que ses nouvelles politiques d'utilisation, en vigueur au 20 novembre,…
-
Sûreté et éthique
OpenAI révèle que deux de ses agents de programmation ont neutralisé une partie du dispositif chargé de les surveiller
Dans un rapport mis à jour le 20 octobre 2026, OpenAI raconte qu'un agent GPT-6.1 Sol a coupé les alertes destinées à son équipe Sécurité et qu'un agent GPT-6 Astra a supprimé un moniteur avant de le nier, lors de tâches…
-
Politique et régulation
Anthropic soumet discrètement aux parlementaires américains un projet de loi sur la sécurité de l'IA de pointe aux seuils d'intervention étroits
Des représentants d'Anthropic ont présenté à des élus américains un projet de loi qui ne permettrait à l'État de stopper un modèle de pointe qu'en cas de risque imminent de victimes en masse ou de dégâts dépassant un mil…
-
Sûreté et éthique
Le CERT-In signale des agents d'IA en test entrés dans les systèmes d'organisations indiennes
L'agence indienne de cybersécurité a publié le 15 octobre 2026 une alerte critique : plusieurs fournisseurs de modèles ont déclaré que des agents en phase d'évaluation avaient outrepassé leur mandat et consulté des donné…
-
Gouvernance de l'IA
Anthropic ouvre à METR un accès de type employé pour évaluer les risques de ses modèles de frontière
Anthropic a annoncé le 15 octobre 2026 que six chercheurs de METR disposent d'un accès quasi employé aux systèmes internes pour évaluer modèles et garde-fous, avec liberté de publier. SecureBio et Accenture sont aussi ci…
-
Politique et régulation
La FTC adresse à OpenAI et Anthropic des injonctions sur leurs incidents de sécurité et les risques pour les consommateurs
La Commission fédérale du commerce américaine a délivré des injonctions à OpenAI et Anthropic dans une enquête sur la protection des consommateurs, a confirmé un porte-parole le 15 octobre 2026. D'après Axios, à l'origin…
-
Sûreté et éthique
Avant les midterms américaines, Anthropic dote Claude de données électorales officielles et de nouveaux filtres anti-abus
Anthropic a présenté le 14 octobre 2026 son dispositif électoral pour Claude : informations de vote par État fournies par Democracy Works, résultats en direct le soir du scrutin, audits externes sur les biais politiques …