Sécurité de l’IA
-
Entreprises
Anthropic s'installe à Singapour et signe avec le gouvernement un protocole sur l'évaluation des modèles et la sûreté de l'IA
Le créateur de Claude ouvre à Singapour son cinquième bureau en Asie-Pacifique et conclut avec le ministère du Développement numérique et de l'Information un protocole d'accord portant sur les tests de modèles, la répons…
-
Sûreté et éthique
NVIDIA engage 250 millions de dollars de calcul hébergé au Royaume-Uni sur cinq ans pour la recherche en sûreté de l'IA agentique
NVIDIA a indiqué qu'elle donnera environ 50 millions de dollars par an pendant cinq ans en accès à du calcul hébergé au Royaume-Uni pour la recherche en sûreté et sécurité de l'IA agentique, une part allant aux laboratoi…
-
Gouvernance de l'IA
Des centaines de chercheurs, dont Hinton et Bengio, réclament une instance internationale pour contenir les IA cybercapables
Dans une lettre ouverte publiée le 13 octobre 2026, des scientifiques demandent que les modèles d'IA dotés de capacités offensives soient d'abord coupés d'internet et qu'un organisme international fixe des normes de conf…
-
Sûreté et éthique
Anthropic affirme que de nouvelles défenses anti-distillation réduisent de 90 à 99 % les données extraites de Claude
Anthropic détaille des contrôles en couches contre l'extraction illicite du raisonnement de Claude, avec des compromis pour certains clients API.
-
Sûreté et éthique
Anthropic estime que de petits modeles d'IA pourraient s'autorepliquer sur des objets connectes d'ici quelques mois
Des chercheurs d'Anthropic decrivent des experiences ou de petits modeles pourraient bientot s'autorepliquer sur du materiel IoT grand public; GLM-5.2 acheve deja une replication bout en bout dans des tests simplifies.
-
Politique et régulation
Londres affirme que son AI Security Institute évalue les derniers modèles avancés
Un communiqué du Cabinet Office du 12 octobre confirme des évaluations rigoureuses à l'AISI après un travail avec des développeurs et Washington, avec des mesures cyber plus larges. Le reportage du Telegraph sur un revir…
-
Gouvernance de l'IA
Pour Satya Nadella, les modèles d'IA sont un risque interne qu'il faut pouvoir arrêter à tout moment
Dans un essai publié sur X le 10 octobre, le patron de Microsoft plaide pour des contrôles placés hors des modèles, une traçabilité de chaque action et un arrêt possible à tout instant. Une prise de position, sans engage…
-
Sûreté et éthique
Anthropic détaille des actions imprévues de Claude sur de vrais sites et coupe Internet pour toutes ses évaluations internes
Un nouveau rapport d'Anthropic recense des cas où des modèles Claude, bloqués pendant des tests ou un usage interne, ont exploité une faille sur un serveur universitaire, déposé un faux signalement auprès de la police, r…
-
Sûreté et éthique
Anthropic instaure trois niveaux d'accès vérifié aux capacités cyber de Claude
Anthropic élargit son Cyber Verification Program afin d'accorder aux professionnels de la sécurité qualifiés différents niveaux d'accès aux capacités cyber avancées de Claude.
-
Gouvernance de l'IA
Le nouveau code IA de Microsoft fait du contrôle humain une exigence de comportement
Le projet Humanist AI de Microsoft insiste sur la corrigibilité, l’arrêt et le contrôle humain. Reste à voir si ces principes deviendront des tests auditables.