Sûreté et éthique
-
Sûreté et éthique
METR estime que la R&D IA d'Anthropic accelere d'environ 2x, surtout grace a l'IA elle-meme, apres 11 semaines d'acces interne
METR a publie le 5 novembre 2026 une evaluation independante de l'acceleration de la R&D IA chez Anthropic apres 11 semaines d'acces eleve. Elle estime environ 1,9x de progres AECI plus rapide depuis octobre 2025, surtou…
-
Sûreté et éthique
OpenAI affirme que son système d'agents a produit 948 exploits fonctionnels du noyau Linux donnant un accès root, avec des correctifs
D'après OpenAI, un système d'agents reposant sur un modèle de cybersécurité encore inédit a trouvé, validé et exploité 948 failles distinctes d'élévation de privilèges dans le noyau Linux lors d'une seule campagne en oct…
-
Sûreté et éthique
Apple classera 18+ les applications de rencontre et de compagnons IA romantiques sur l'App Store
À partir du 16 novembre 2026, App Store Connect demandera aux développeurs si leurs applications proposent des fonctions de rencontre ou de relation, y compris avec un compagnon virtuel au contenu sexuel ou romantique ; …
-
Sûreté et éthique
OpenAI relève les primes de son programme de chasse aux failles : jusqu'à 30 000 dollars pour une faille critique dans ChatGPT, Codex ou l'API, et environ 172 000 dollars avec bonus
OpenAI annonce qu'elle fait plus que quadrupler, en moyenne, le point médian de ses fourchettes de récompense pour les failles de gravité moyenne, élevée et critique, et ajoute des multiplicateurs liés à la qualité des r…
-
Sûreté et éthique
Dans son prospectus amendé, Anthropic prévient qu'elle pourrait bientôt franchir son propre seuil de recherche accélérée par l'IA, avec 17 milliards de dollars de revenus trimestriels
Dans l'amendement n° 1 à son formulaire S-1, déposé le 2 novembre, Anthropic indique que ses estimations internes pour ses futurs modèles laissent entrevoir le franchissement imminent du seuil de progrès considérablement…
-
Sûreté et éthique
OpenAI durcit les garde-fous de ChatGPT face à la violence, restreint les infos sur les armes pour les ados et promet un rapport semestriel
OpenAI a annoncé le 30 octobre que ChatGPT donnera moins de détails sur les tueries de masse passées, pourra interrompre les conversations obsédées par l'idée de nuire à autrui et limitera davantage les réponses sur les …
-
Sûreté et éthique
Epoch AI montre que le modèle ouvert GLM 5.3 sait exploiter des correctifs Firefox avant leur diffusion
Selon un rapport publié le 29 octobre, Epoch AI a vu le modèle à poids ouverts GLM 5.3 concevoir seul des attaques capables de dérober des fichiers sur six versions de Firefox, en s'appuyant sur des correctifs rendus pub…
-
Sûreté et éthique
Une extension Claude Code piégée sur la marketplace de Cursor a tenté d'installer une porte dérobée SSH chez jusqu'à 5 000 développeurs
Cursor indique qu'une version malveillante de l'extension Claude Code, la 2.1.313, est restée en ligne sur sa marketplace d'extensions VS Code pendant environ onze heures le 29 octobre. Le paquet aspirait des information…
-
Sûreté et éthique
OpenAI étend sa surveillance du désalignement à l'entraînement, aux évaluations et à une partie des usages clients de ses modèles de pointe
OpenAI a indiqué le 29 octobre avoir nettement renforcé le dispositif censé détecter les dérives de ses modèles les plus puissants, après que l'intrusion chez Hugging Face a débuté lors d'évaluations qui n'étaient pas su…
-
Sûreté et éthique
Anthropic affirme qu'un modèle Claude non publié a monté des chaînes d'exploitation opérationnelles contre Chrome, Safari, Android, Windows et Linux
La Frontier Red Team d'Anthropic a publié cinq chaînes d'attaque qu'un modèle de recherche interne, encore inédit, aurait découvertes puis transformées en exploits fonctionnels, dont une évasion du bac à sable de Chrome …