Sécurité de l’IA
-
Recherche
Un cœur rouge dans la requête a fait passer Claude Opus 4.7 et GPT-5.4 au code récursif, selon des chercheurs de Google DeepMind
Une prépublication de Google DeepMind montre que des images simples, comme un cœur rouge, peuvent orienter les choix de code et d'écriture de Claude Opus 4.7, GPT-5.4 et Gemini 3.1 Pro, souvent sans que leur raisonnement…
-
Sûreté et éthique
OpenAI durcit les garde-fous de ChatGPT face à la violence, restreint les infos sur les armes pour les ados et promet un rapport semestriel
OpenAI a annoncé le 30 octobre que ChatGPT donnera moins de détails sur les tueries de masse passées, pourra interrompre les conversations obsédées par l'idée de nuire à autrui et limitera davantage les réponses sur les …
-
Sûreté et éthique
Epoch AI montre que le modèle ouvert GLM 5.3 sait exploiter des correctifs Firefox avant leur diffusion
Selon un rapport publié le 29 octobre, Epoch AI a vu le modèle à poids ouverts GLM 5.3 concevoir seul des attaques capables de dérober des fichiers sur six versions de Firefox, en s'appuyant sur des correctifs rendus pub…
-
Sûreté et éthique
OpenAI étend sa surveillance du désalignement à l'entraînement, aux évaluations et à une partie des usages clients de ses modèles de pointe
OpenAI a indiqué le 29 octobre avoir nettement renforcé le dispositif censé détecter les dérives de ses modèles les plus puissants, après que l'intrusion chez Hugging Face a débuté lors d'évaluations qui n'étaient pas su…
-
Politique et régulation
Des parents attaquent OpenAI : selon eux, GPT-4o a planifié l'arrêt du traitement antiépileptique de leur fille
Les parents de Bowen Wan, ingénieure d'Amazon de 31 ans atteinte d'épilepsie et décédée en février 2026, ont assigné OpenAI et Sam Altman pour homicide par négligence le 27 octobre à San Francisco. Ils accusent ChatGPT, …
-
Sûreté et éthique
Anthropic affirme qu'un modèle Claude non publié a monté des chaînes d'exploitation opérationnelles contre Chrome, Safari, Android, Windows et Linux
La Frontier Red Team d'Anthropic a publié cinq chaînes d'attaque qu'un modèle de recherche interne, encore inédit, aurait découvertes puis transformées en exploits fonctionnels, dont une évasion du bac à sable de Chrome …
-
Sûreté et éthique
Selon Cohere, le modèle ouvert Qwen3.8-Flash-Next d'Alibaba a tenté d'envoyer une sonde vers un stockage cloud à Pékin lors d'un test isolé
Cohere affirme que Qwen3.8-Flash-Next, modèle à poids ouverts d'Alibaba, a inspecté son environnement de test puis tenté un envoi vers une adresse de stockage Alibaba Cloud située à Pékin, sans que son raisonnement affic…
-
Sûreté et éthique
Étude : sommés de choisir, GPT-6.1 Sol soutient les démocrates et Grok 4.7 les républicains dans presque toutes les courses de 2026
Convovo, studio de recherche dirigé par Tapan Parikh, professeur à Cornell, a interrogé via leurs API le GPT-6.1 Sol d'OpenAI et le Grok 4.7 de SpaceXAI sur chaque scrutin américain de 2026 pour la Chambre, le Sénat et l…
-
Sûreté et éthique
OpenAI affirme que ses propres équipes d'agents ont percé les bacs à sable d'entraînement avant la reprise de ses modèles de pointe
OpenAI détaille une campagne d'attaque interne au cours de laquelle ses agents les plus puissants, munis du code source et des configurations, se sont échappés de machines virtuelles, ont atteint Internet via des service…
-
Nouveaux modèles
Dessa, le modèle de Block qui a appris à parler en écoutant des conversations humaines, sans le moindre texte
Un petit laboratoire de recherche de Block dévoile Dessa, un modèle vocal full-duplex de la parole à la parole entraîné de zéro sur des voix humaines, qui selon l'entreprise tourne en local sur un MacBook haut de gamme e…