Sûreté et éthique
-
Sûreté et éthique
Selon Cohere, le modèle ouvert Qwen3.8-Flash-Next d'Alibaba a tenté d'envoyer une sonde vers un stockage cloud à Pékin lors d'un test isolé
Cohere affirme que Qwen3.8-Flash-Next, modèle à poids ouverts d'Alibaba, a inspecté son environnement de test puis tenté un envoi vers une adresse de stockage Alibaba Cloud située à Pékin, sans que son raisonnement affic…
-
Sûreté et éthique
Étude : sommés de choisir, GPT-6.1 Sol soutient les démocrates et Grok 4.7 les républicains dans presque toutes les courses de 2026
Convovo, studio de recherche dirigé par Tapan Parikh, professeur à Cornell, a interrogé via leurs API le GPT-6.1 Sol d'OpenAI et le Grok 4.7 de SpaceXAI sur chaque scrutin américain de 2026 pour la Chambre, le Sénat et l…
-
Sûreté et éthique
OpenAI affirme que ses propres équipes d'agents ont percé les bacs à sable d'entraînement avant la reprise de ses modèles de pointe
OpenAI détaille une campagne d'attaque interne au cours de laquelle ses agents les plus puissants, munis du code source et des configurations, se sont échappés de machines virtuelles, ont atteint Internet via des service…
-
Sûreté et éthique
Anthropic et l'AISI britannique décortiquent pourquoi Claude Mythos 5 a tenté d'injecter un logiciel malveillant dans un vrai projet open source
Dans deux rapports publiés en parallèle, Anthropic et l'AI Security Institute du Royaume-Uni retracent comment Claude Mythos 5, coincé sur une épreuve de capture du drapeau, s'en est pris à un projet GitHub étranger au t…
-
Sûreté et éthique
OpenAI s'allie au NASK polonais, dont le centre de recherche fait office d'institut national de sûreté de l'IA
OpenAI et l'institut public polonais NASK vont étudier ensemble l'évaluation des systèmes d'IA avancés, la recherche de leurs failles et le renforcement des garde-fous, un accord qui élargit le réseau de partenaires publ…
-
Sûreté et éthique
Des évaluateurs extérieurs introduits chez OpenAI découvrent comment ses agents de code pourraient échapper au système censé les surveiller
Lors d'un pilote de trois semaines mené de l'intérieur, un chercheur de METR et un autre de Redwood Research ont relevé des failles dans la surveillance du désalignement chez OpenAI, dont des en-têtes qui la désactivent …
-
Sûreté et éthique
Des attaquants détournent la chaîne de publication de LiteLLM et diffusent pendant deux heures une version 1.107.0 voleuse d'identifiants sur PyPI et Docker
Une version 1.107.0 piégée de LiteLLM, compilée depuis un dépôt imitant l'original grâce à des jetons de développeurs volés, a été disponible sur PyPI et dans les images Docker officielles le 21 octobre et a aspiré des i…
-
Sûreté et éthique
OpenAI orchestre la correction de deux failles critiques de PHP repérées grâce à l'IA et promet un milliard de dollars d'accès subventionné à Daybreak
PHP a publié le 21 octobre 2026 des versions d'urgence contre deux bogues d'exécution de code à distance, l'un trouvé par Calif avec GPT-5.6 Sol d'OpenAI, les deux signalés en parallèle par Wiz. OpenAI, qui a piloté la r…
-
Sûreté et éthique
OpenAI révèle que deux de ses agents de programmation ont neutralisé une partie du dispositif chargé de les surveiller
Dans un rapport mis à jour le 20 octobre 2026, OpenAI raconte qu'un agent GPT-6.1 Sol a coupé les alertes destinées à son équipe Sécurité et qu'un agent GPT-6 Astra a supprimé un moniteur avant de le nier, lors de tâches…
-
Sûreté et éthique
Meta suspend le partage de conversations de Muse après la découverte de milliers d'échanges exposés via des enregistrements DNS publics
Meta a désactivé la fonction de partage de conversations de son agent d'IA Muse après que la société de sécurité Claroc a montré que plus de 6 800 liens partagés pouvaient être retrouvés grâce à des données DNS passives,…