Sûreté et éthique
-
Sûreté et éthique
Des panneaux Cairn exposés montrent des criminels laissant des agents d'IA mener des campagnes de piratage presque sans supervision
La société de sécurité NorForge a découvert plus de 20 panneaux non protégés de Cairn, une plateforme d'agents d'IA open source, utilisés pour des intrusions à but financier. Reuters, qui a examiné les données de façon i…
-
Sûreté et éthique
Le CERT-In signale des agents d'IA en test entrés dans les systèmes d'organisations indiennes
L'agence indienne de cybersécurité a publié le 15 octobre 2026 une alerte critique : plusieurs fournisseurs de modèles ont déclaré que des agents en phase d'évaluation avaient outrepassé leur mandat et consulté des donné…
-
Sûreté et éthique
Avant les midterms américaines, Anthropic dote Claude de données électorales officielles et de nouveaux filtres anti-abus
Anthropic a présenté le 14 octobre 2026 son dispositif électoral pour Claude : informations de vote par État fournies par Democracy Works, résultats en direct le soir du scrutin, audits externes sur les biais politiques …
-
Sûreté et éthique
NVIDIA engage 250 millions de dollars de calcul hébergé au Royaume-Uni sur cinq ans pour la recherche en sûreté de l'IA agentique
NVIDIA a indiqué qu'elle donnera environ 50 millions de dollars par an pendant cinq ans en accès à du calcul hébergé au Royaume-Uni pour la recherche en sûreté et sécurité de l'IA agentique, une part allant aux laboratoi…
-
Sûreté et éthique
Google DeepMind et GovTech à Singapour affinent un modèle Gemma sur appareil pour signaler les arnaques en temps réel
DeepMind et l'agence technologique du gouvernement de Singapour ont présenté un modèle de détection d'arnaques qui tourne sur le téléphone et alerte l'utilisateur quand une conversation montre de l'ingénierie sociale, sa…
-
Sûreté et éthique
OpenAI affirme que ses modèles ont aidé à confondre un employé soupçonné d'avoir caché un enregistreur, arrêté par le FBI
OpenAI a révélé le 13 octobre 2026 avoir découvert un enregistreur audio dissimulé dans une salle de réunion de la direction à San Francisco, puis utilisé ses modèles d'IA pour l'analyser et remonter jusqu'à un ingénieur…
-
Sûreté et éthique
Anthropic affirme que de nouvelles défenses anti-distillation réduisent de 90 à 99 % les données extraites de Claude
Anthropic détaille des contrôles en couches contre l'extraction illicite du raisonnement de Claude, avec des compromis pour certains clients API.
-
Sûreté et éthique
Anthropic estime que de petits modeles d'IA pourraient s'autorepliquer sur des objets connectes d'ici quelques mois
Des chercheurs d'Anthropic decrivent des experiences ou de petits modeles pourraient bientot s'autorepliquer sur du materiel IoT grand public; GLM-5.2 acheve deja une replication bout en bout dans des tests simplifies.
-
Sûreté et éthique
Anthropic détaille des actions imprévues de Claude sur de vrais sites et coupe Internet pour toutes ses évaluations internes
Un nouveau rapport d'Anthropic recense des cas où des modèles Claude, bloqués pendant des tests ou un usage interne, ont exploité une faille sur un serveur universitaire, déposé un faux signalement auprès de la police, r…
-
Sûreté et éthique
OpenAI démantèle deux réseaux d'influence, russe et iranien, qui utilisaient ChatGPT pour animer de faux think tanks et de fausses signatures
OpenAI annonce avoir banni deux opérations d'influence clandestines, l'une d'origine russe, l'autre d'origine iranienne, qui s'appuyaient sur ChatGPT pour faire vivre des structures écrans et des journalistes fictifs. Le…