A 20 de novembro de 2026, a OpenAI publicou um relato detalhado sobre a forma como deteta e trava a destilação adversarial: o uso não autorizado das respostas de um modelo de ponta para treinar outro modelo, que depois funciona sem salvaguardas equivalentes. A empresa apresenta o problema como uma questão de segurança e não apenas de propriedade intelectual. O exemplo que dá é o de um modelo treinado com as capacidades de cibersegurança de um sistema mais forte e depois usado para ajudar a executar ataques que o sistema original teria recusado.
O texto dá especial peso à proteção da cadeia de raciocínio, a que a empresa chama raciocínio protegido, porque esses passos intermédios podem conter informação que a resposta final omite. Num estudo interno, a OpenAI afinou o mesmo modelo aluno pré-treinado com trajetórias de professores de nível Astra em programação e ciberdefesa, comparando alunos que só viram o conteúdo visível ao utilizador com alunos que tiveram também os rastos exatos de raciocínio. Depois do ajuste supervisionado, o aluno com rastos exatos teve geralmente melhores resultados. Após uma ronda ligeira de aprendizagem por reforço, continuou à frente no maior orçamento de inferência testado, enquanto o aluno treinado com resumos liderava nos orçamentos menores. A OpenAI interpreta isto como indício de que proteger os rastos pode limitar a transferência de capacidades de ciberataque.
Quanto às defesas, descreve dois níveis. Em cada pedido: treino adversarial, classificadores de entrada que detetam tentativas de extração, classificadores de saída que procuram fugas nas mensagens e nos argumentos de chamadas a ferramentas, e limites de API à reutilização do raciocínio protegido. Com o GPT-6.2 Astra e o GPT-6.2 Sol, o raciocínio protegido fica ligado ao histórico da conversa que o gerou, de modo que, se uma mensagem anterior for reescrita, a API descarta o raciocínio que se lhe seguiu. Famílias de modelos mais antigas, com salvaguardas mais fracas, deixam de o poder ler. Ao nível das campanhas, a OpenAI procura padrões coordenados entre contas e age contra redes inteiras.
O número principal vem de uma avaliação adaptativa em caixa preta com red-teaming automatizado, agregada em seis modelos atacantes. A taxa média de sucesso na recuperação de raciocínio de um pedido anterior desceu de 54,0 % contra o GPT-6 Astra com as proteções originais para 0,2 % contra o GPT-6.2 Astra com as proteções atualizadas. Na extração a partir do pedido em curso, desceu de 22,9 % para 0,9 %. A empresa diz que está agora a aplicar algumas melhorias também ao GPT-6 Astra. Refere ações semanais contra campanhas de destilação, de alguns milhares a dezenas de milhares de contas, com um aumento acentuado ao longo do verão.
O artigo assume também uma posição política. A OpenAI recorda que informou o Congresso em fevereiro sobre atividade que indicava que a DeepSeek tentava destilar modelos norte-americanos, e diz que o relatório de setembro atribuiu uma parte central de uma campanha de extração de raciocínio a pessoas associadas à Moonshot AI, criadora do Kimi. Apoia legislação que permita sancionar atores estrangeiros que extraiam capacidades de forma ilícita e disse ao Congresso que defende o Chip Security Act, o AI OVERWATCH Act e o MATCH Act. Promete mais pormenores sobre campanhas recentes e partilha indicadores de comprometimento com outros fornecedores.
Todos os valores resultam de testes internos da OpenAI e não foram reproduzidos de forma independente, e o conjunto de ataques depende das equipas vermelhas utilizadas. A empresa enumera passos que outros podem copiar: proteger o raciocínio nas mensagens e nas chamadas a ferramentas, guardar os ataques bem-sucedidos como testes de regressão e combinar controlos por pedido com ação contra campanhas.