O Computing Systems Lab (CSL) da Huawei, grupo de investigação da empresa sediado na Suíça, abriu ao público o MACaQ, uma ferramenta de quantização que, segundo a equipa, já usava internamente há vários meses. O repositório huawei-csl/MACaQ ficou disponível no GitHub a 10 de novembro de 2026, sob licença Apache-2.0, juntamente com uma página de projeto e o artigo científico "MACaQ: Fast, Model Agnostic Calibrated Quantization for Low-Precision Weights and Activations" (arXiv 2611.10649). Assinam o trabalho Lorenz K. Muller, Philippe Bich, Chiara Boretti, Hyun-Min Chang, Jiawei Zhuang e Lukas Cavigelli.
O nome significa quantização calibrada agnóstica ao modelo, e o grande trunfo do método é nunca ir além de uma única camada linear. Muitas técnicas recentes de baixa precisão rodam ou reescalam as ativações e depois incorporam as transformações inversas nas camadas vizinhas, o que prende a receita a uma arquitetura concreta. O MACaQ aplica, em tempo de inferência, uma escala por canal e uma pequena transformada de Hadamard por blocos às ativações de cada camada, absorvendo a inversa correspondente nos pesos dessa mesma camada. Como nenhuma outra camada é alterada, o modelo pode ser calibrado e quantizado em fluxo contínuo, com apenas uma camada em memória de cada vez.
O artigo acrescenta ainda o Flip-Refinement, um passo de descida por coordenadas guiado pela Hessiana que desloca códigos FP4 individuais para valores representáveis adjacentes, em vez de recorrer a atualizações ao estilo do GPTQ. O formato principal é o MXFP4 com pesos e ativações de 4 bits (W4A4). Segundo os autores, executar as transformações das ativações em linha acrescenta apenas 2,3% de custo total face ao MXFP4 simples no Qwen3-32B com vLLM.
O repositório está organizado por motor de execução. A via llama.cpp produz ficheiros GGUF de 2, 3 e 4 bits para modelos de texto densos e de mistura de especialistas, da família Qwen3, do OLMoE e outros, enquanto a via vLLM serve checkpoints W4A4 ou apenas com pesos quantizados. Uma via Diffusers abrange geradores de imagem, vídeo e áudio como o FLUX.2-klein-4B e o Wan2.2, e outra em PyTorch trata modelos de fala. Há também uma secção Ascend que remete para pull requests de kernels CANN ainda pendentes; o repositório admite que correr modelos completos nos aceleradores da própria Huawei exige integração com um runtime de inferência Ascend.
Um modo à parte, o MACaQ-R, afina os códigos de peso dentro de um GGUF já existente, preservando os formatos nativos e as escalas por bloco, pelo que o resultado corre numa instalação normal do llama.cpp. Para o Qwen3.6-35B-A3B, com o mesmo tamanho de 22,36 GB, o CSL indica uma divergência KL face ao FP16 de 0,013367 no seu ficheiro Q4_K_XL, contra 0,015731 na popular quantização UD-Q4_K_XL da Unsloth.
Os números de destaque do artigo também são dos autores. Apontam perplexidade inferior à do DuQuant++ e do MR-GPTQ, a mesma perplexidade que esses métodos atingem no Llama-3-8B em 11 vezes menos tempo de quantização, e um modelo Qwen3.5 de 122 mil milhões de parâmetros quantizado em 64 minutos com 32,5 GB de memória de GPU. A perplexidade desse modelo no WikiText-2 passou de 5,06 para 5,14, e o resultado em MXFP4, com 74 GB, cabe numa única GPU de 96 GB que não comportaria os pesos originais.
O lançamento depressa chamou a atenção de quem corre modelos localmente. Uma discussão no Hacker News intitulada "Huawei releases MACaQ, its internal quantizer for local inference" ultrapassou os 100 pontos em menos de um dia, e houve comentadores a assinalar utilizadores que já estavam a gerar os seus próprios GGUF com MACaQ. Ainda não surgiram avaliações independentes, pelo que as alegações de qualidade e velocidade assentam, por agora, no artigo, na página do projeto e no repositório do CSL. Os resultados vão ainda variar consoante os dados de calibração, a família de modelos e o hardware, algo que os autores reconhecem ao pedir texto de calibração representativo em todos os fluxos de trabalho.