Le 20 novembre 2026, OpenAI a publié un compte rendu détaillé de la façon dont elle repère et perturbe la distillation adverse : l'utilisation non autorisée des sorties d'un modèle de pointe pour entraîner un autre modèle, qui fonctionne ensuite sans garde-fous comparables. L'entreprise présente le sujet comme un enjeu de sécurité autant que de propriété intellectuelle. Son exemple : un modèle formé sur les capacités cyber d'un système plus puissant, puis employé pour aider à mener des attaques que le système d'origine aurait refusé d'assister.

Le texte insiste sur la protection de la chaîne de raisonnement, que l'entreprise appelle raisonnement protégé, car ces étapes intermédiaires peuvent contenir des informations absentes de la réponse finale. Dans une étude interne, OpenAI a affiné un même modèle élève préentraîné sur des trajectoires d'enseignants de niveau Astra, en programmation et en cyberdéfense, et comparé des élèves n'ayant vu que le contenu visible par l'utilisateur à d'autres ayant aussi accès aux traces exactes. Après un affinage supervisé, l'élève doté des traces exactes réussissait en général mieux. Après un léger apprentissage par renforcement, il restait en tête au plus grand budget d'inférence testé, tandis que l'élève formé sur des résumés l'emportait aux budgets plus faibles. OpenAI y voit un indice que protéger les traces peut freiner le transfert de capacités cyber.

Côté défenses, deux niveaux sont décrits. Pour chaque requête : entraînement adverse, classificateurs d'entrée qui détectent les tentatives d'extraction, classificateurs de sortie qui cherchent des fuites dans les messages comme dans les arguments d'appels d'outils, et limites d'API sur la réutilisation du raisonnement protégé. Avec GPT-6.2 Astra et GPT-6.2 Sol, ce raisonnement est lié à l'historique de conversation qui l'a produit : si un message antérieur est réécrit, l'API écarte le raisonnement qui suivait. Les anciennes familles de modèles, moins protégées, ne peuvent plus le lire. À l'échelle des campagnes, OpenAI cherche des schémas coordonnés entre comptes et sanctionne des réseaux entiers.

Le chiffre phare provient d'une évaluation adaptative en boîte noire fondée sur du red-teaming automatisé, agrégée sur six modèles attaquants. Le taux de réussite moyen pour récupérer un raisonnement issu d'une requête antérieure passe de 54,0 % contre GPT-6 Astra avec ses protections d'origine à 0,2 % contre GPT-6.2 Astra avec les protections renforcées. Pour l'extraction depuis la requête en cours, il passe de 22,9 % à 0,9 %. OpenAI précise appliquer désormais certaines améliorations à GPT-6 Astra. Elle fait état de mesures hebdomadaires contre des campagnes de distillation, de quelques milliers à plusieurs dizaines de milliers de comptes, avec une forte hausse durant l'été.

L'article prend aussi position sur le plan politique. OpenAI rappelle avoir informé le Congrès en février d'activités indiquant que DeepSeek cherchait à distiller des modèles américains, et dit avoir attribué en septembre une part centrale d'une campagne d'extraction de raisonnement à des personnes liées à Moonshot AI, éditeur de Kimi. Elle soutient une législation permettant de sanctionner les acteurs étrangers qui extraient illicitement des capacités, et a indiqué au Congrès appuyer le Chip Security Act, l'AI OVERWATCH Act et le MATCH Act. Elle promet davantage de détails sur les campagnes récentes et partage des indicateurs de compromission avec d'autres fournisseurs.

Tous ces chiffres proviennent des tests internes d'OpenAI et n'ont pas été reproduits de façon indépendante ; le jeu d'attaques dépend aussi des équipes rouges employées. L'entreprise énumère des pratiques que d'autres pourraient reprendre : protéger le raisonnement dans les messages et les appels d'outils, conserver les attaques réussies comme tests de non-régression et combiner contrôles par requête et sanctions par campagne.

Références