Investigadores do laboratório de ciência da computação e inteligência artificial do MIT afirmam que um modelo de linguagem generalista já consegue perceber o que faz uma rede neuronal lendo os seus pesos, e alterá-los diretamente para a reparar ou construir. Numa publicação de 2 de novembro de 2026, Rikiya Takehi, Jayden Teoh, Alex Zhang e Omar Khattab chamam a esta ideia Weight-Space Programming. Usaram o GPT-6 Astra, da OpenAI, como editor, sem lhe permitir escrever ciclos de treino nem recorrer à descida de gradiente: cada alteração resultou do raciocínio do modelo sobre os números.
Primeiro vieram os testes de leitura. A equipa treinou quatro pequenas políticas em versões próprias, em grelha, de Breakout, Pong, Pac-Man e Freeway, todas com a mesma arquitetura de 17 253 pesos, as mesmas entradas e as mesmas ações. Ao receber os pesos em texto, e sem saber que jogos estavam em causa, o Astra acertou nos quatro. Também identificou qual de três modelos de difusão desenhava círculos, quadrados ou triângulos e, tendo acesso apenas aos blocos intermédios de três transformers de 7,2 milhões de parâmetros, indicou qual fora treinado em Python, inglês ou japonês em romaji, encontrando ainda todas as cabeças de cópia.
Escrever pesos revelou-se mais difícil, mas deu números impressionantes. Perante uma política de condução que ficava sempre presa numa rampa no simulador Kinetix, o Astra explicou a falha e reescreveu 3,5% dos pesos numa única resposta; segundo os autores, a versão corrigida teve êxito nos 1 024 episódios de teste. Quando lhe pediram redes construídas de raiz para três jogos MinAtar, apenas com as regras, o código-fonte e a estrutura da rede, superou em todos agentes treinados com PPO durante 100 milhões de passos. No Breakout chegou aos 517,4 pontos, contra 25,3 de um agente PPO com 500 milhões de passos, embora tenha ficado atrás dessa referência mais forte no Seaquest e, por pouco, no Asterix.
O resultado mais mediático envolve um modelo de linguagem a sério. A equipa deu ao Astra uma sessão de Python com os pesos do Qwen3.5-0.8B, exercícios do GSM8K e do MATH e um número limitado de passagens diretas. O Astra associou a tendência do modelo para entrar em ciclos até esgotar o limite de tokens, um problema referido no próprio cartão do Qwen, a uma única direção escrita pelos MLP das camadas 15 e 19, e retirou-a de 131 072 pesos. Com 50 passagens, o MATH-500 subiu de 7,9% para 48,1%, o GSM8K de 13,8% para 67,1% e o IFEval, que mede o cumprimento de instruções, de 21,0% para 62,3%. Com 10 ou 25 passagens os ganhos foram muito menores.
Os autores não escondem onde a abordagem falhou. No Gemma 3 270M, um modelo mais pequeno que raramente entra em ciclos, as edições do Astra mexeram no MATH-500 um ponto, no máximo, o que os investigadores interpretam como sinal de que o método removeu um obstáculo em vez de acrescentar competência matemática. Num teste para distinguir um Gemma afinado para responder com rigor de um gémeo bajulador, falhou as quatro tentativas só com os pesos e só acertou depois de ver padrões de atenção. A VentureBeat, que noticiou o trabalho, relata que a melhor execução no Qwen exigiu 158 trocas de mensagens, 80 execuções de Python e 20,3 horas, incluindo várias horas perdidas numa falha de serviço.
A equipa publicou no GitHub os registos completos, com os pedidos, as respostas do Astra, o código e as avaliações, e diz que um investigador da Hugging Face reconstruiu e voltou a avaliar o Qwen editado a partir desses ficheiros. Está também a preparar um conjunto de testes e um ambiente próprio para este tipo de tarefa. Trata-se de uma publicação num blogue e não de um artigo revisto por pares, e a VentureBeat lembra que já existiam métodos de edição dirigida de pesos, como o ROME e o MEMIT, pensados especificamente para corrigir factos.
As reações dividiram-se como seria de esperar. A VentureBeat e os investigadores externos que citou viram ali uma possível forma de manter, depurar e melhorar modelos, enquanto Maxime Fournes, da PauseAI, considerou a linha de investigação imprudente por poder acelerar os ganhos de capacidade. Os autores incluem o autoaperfeiçoamento recursivo entre as aplicações futuras possíveis, mas nenhuma experiência mostra um modelo a melhorar-se a si próprio, e os ganhos limitam-se, por agora, a redes pequenas e a um modelo de linguagem minúsculo, avaliados nas condições definidas pela própria equipa.